Gregorio Papareschi nasceu em Roma, pertencente à antiga e nobre família romana dos Guidoni (ou Papareschi). Ingressou na vida monástica na Abadia de Cluny, importante centro da reforma eclesiástica europeia, e foi elevado a cardeal em 1116 pelo papa Pascoal II, tornando-se figura de crescente influência na Cúria Romana ao longo dos pontificados seguintes.

Após a morte do papa Honório II, em fevereiro de 1130, um pequeno grupo de cardeais, reunidos na manhã seguinte ao falecimento, elegeu Gregorio Papareschi como sucessor, que adotou o nome de Inocêncio II. Poucas horas depois, porém, outro grupo de cardeais reuniu-se separadamente e elegeu um segundo papa: Pietro Pierleoni, membro de poderosa família romana de origem judaica convertida, que adotou o nome de Anacleto II — apesar de contar com o apoio da maioria da população e das famílias mais nobres da cidade, sua eleição foi contestada pelos rivais políticos de sua família, que haviam favorecido a candidatura de Papareschi. Estava assim deflagrado um novo e grave cisma na Igreja, que se prolongaria por quase uma década inteira.

Dado o esmagador apoio popular e militar de que dispunha Anacleto II em Roma, Inocêncio II viu-se forçado a abandonar a cidade e buscar refúgio primeiro em Pisa e depois na França, onde encontrou em São Bernardo de Claraval — um dos religiosos mais influentes e eloquentes de todo o século XII — seu mais fervoroso e decisivo defensor. Bernardo percorreu incansavelmente reinos e cortes, convencendo sucessivamente os reis da Inglaterra e da França, e finalmente o próprio imperador Lotário III do Sacro Império, a reconhecerem Inocêncio II como o pontífice legítimo. Amparado por um exército saxônico, Inocêncio II conseguiu, em 1133, retornar a Roma e ser consagrado na Basílica de São João de Latrão — embora a Basílica de São Pedro e o Castelo de Santo Ângelo tenham permanecido, por mais algum tempo, sob controle das forças de Anacleto II.

O desfecho definitivo do cisma só viria com a morte de Anacleto II, em janeiro de 1138: seu sucessor autoproclamado, o efêmero antipapa Vítor IV, rendeu-se rapidamente às súplicas de São Bernardo e reconheceu Inocêncio II como único pontífice legítimo, permitindo que este finalmente governasse Roma sem oposição significativa. Para consolidar essa vitória e reparar as feridas deixadas pelo cisma, Inocêncio II convocou, em 1139, o Segundo Concílio de Latrão — décimo concílio ecumênico da história —, que reuniu cerca de mil bispos e prelados, declarou nulos todos os atos oficiais de Anacleto II, depôs a maioria dos clérigos por ele ordenados, e promulgou trinta cânones de reforma disciplinar contra a usura, a simonia e a incontinência entre o clero. Foi também durante seu pontificado que São Malaquias de Armagh lhe confiou o manuscrito encadernado de suas célebres profecias sobre os futuros papas — documento que, segundo a tradição, permaneceria trancado e não lido por quase quatrocentos anos.

Já no fim de seu governo, novos distúrbios políticos em Roma, instigados por Arnaldo de Bréscia, levaram o Senado romano a se rebelar contra o poder temporal papal, dando início a décadas de instabilidade que atormentariam diversos de seus sucessores. Inocêncio II faleceu em Roma, em 24 de setembro de 1143.