Giovanni di Gaeta nasceu em Gaeta, na Itália, em 1063, oriundo de família nobre, provavelmente ligada aos Gaetani. Ainda jovem, ingressou no mosteiro beneditino de Montecassino, onde progrediu tanto em seus estudos e no domínio do latim que, sob sucessivos pontífices, ocupou o cargo de chanceler da Santa Sé — posição que exerceu com destaque desde cerca de 1089, tornando-se conselheiro de confiança do papa Pascoal II, cujo cativeiro sob o imperador Henrique V ele próprio compartilhou, protegendo o pontífice das acusações de heresia levantadas por zelotas em razão de concessões feitas sob coação.

Após a morte de Pascoal II, em janeiro de 1118, os cardeais, cientes de que o imperador Henrique V havia se aliado a uma facção da nobreza romana para forçar a eleição de um candidato mais dócil aos interesses imperiais, reuniram-se secretamente em um mosteiro beneditino no Palatino. Enviaram mensageiro a Montecassino convocando o já idoso chanceler Giovanni di Gaeta, e, ignorando suas súplicas de recusa, elegeram-no papa por unanimidade em 24 de janeiro de 1118. Adotou o nome de Gelásio II. Contudo, assim que a notícia da eleição — realizada sem consulta ao imperador — se espalhou, o líder da facção imperial em Roma, Cencio Frangipani, invadiu o local, agarrou o recém-eleito papa pelo pescoço, arrastou-o pelos cabelos e o encerrou em uma masmorra acorrentado.

Indignados com tamanha violência, os romanos se insurgiram, cercaram o esconderijo de Frangipani e exigiram a libertação imediata do pontífice — que, intimidado, acabou por libertá-lo e implorar seu perdão. Gelásio II foi então conduzido triunfalmente ao Latrão e entronizado, sendo ordenado sacerdote e consagrado bispo pouco depois, em 9 e 10 de março daquele ano. O triunfo, porém, foi breve: já em 2 de março, o próprio imperador Henrique V, ao saber dos acontecimentos, abandonou seu exército na Lombardia e marchou rapidamente sobre Roma. Gelásio II determinou fuga imediata, e numa noite tempestuosa, o papa e sua corte escaparam pelo rio Tibre em duas galeras, sob pedras e flechas atiradas pela facção imperial.

Recusando-se a se encontrar pessoalmente com Henrique V para discutir a Questão das Investiduras, Gelásio II viu o imperador favorecer o antipapa Maurício Bourdin, arcebispo de Braga, que adotou o nome de Gregório VIII. Assim que o imperador deixou Roma, Gelásio retornou secretamente, mas continuou perseguido pelos partidários imperiais, decidindo então buscar refúgio na França. No caminho, passou por Pisa, onde consagrou sua esplêndida catedral de mármore, e por Gênova, sendo recebido com grande reverência pelos franceses; o poderoso ministro do rei Luís VI, o abade Suger, conduziu-o ao mosteiro de Cluny.

Foi ali, prostrado no chão daquela abadia beneditina que tanto prezava, que Gelásio II faleceu, em 28 de janeiro de 1119, encerrando um pontificado breve, mas comprimido de sofrimentos e turbulências políticas praticamente sem paralelo na história papal.