Pietro Martino Buccaporci nasceu em Roma, na região conhecida como Pina (nona região da cidade), filho de Pedro, um humilde sapateiro, e de sua esposa Estefânia — origem popular incomum entre os papas de seu tempo, embora seu apelido de família, ""Buccaporci"" (literalmente ""focinho de porco""), fosse aparentemente apenas um apelido pessoal referente a hábitos ou características físicas, e não sobrenome de família nobre. Seguiu carreira eclesiástica e, por volta de 1004, tornou-se bispo de Albano, cargo que ocupava havia cerca de cinco anos quando foi escolhido para o papado.

Após a abdicação voluntária de João XVIII, em julho de 1009, Pietro foi eleito papa. Foi consagrado em 31 de julho de 1009, e decidiu adotar o nome pontifício de Sérgio IV, abandonando seu nome de batismo — prática que, a partir de então, se consolidaria definitivamente como tradição obrigatória para todos os papas seguintes na história da Igreja.

Assim como diversos de seus antecessores imediatos naquele conturbado período conhecido pelos historiadores como o ""século obscuro"" do papado, Sérgio IV exerceu poder temporal extremamente limitado, permanecendo, ao longo de todo o seu pontificado, sob a sombra política do patrício Crescêncio, que efetivamente controlava os assuntos civis de Roma. Apesar dessas restrições ao seu poder político direto, distinguiu-se por sua notável dedicação à caridade e à assistência aos pobres, especialmente durante período de fome que assolou a cidade em seus anos de governo, e concedeu privilégios de isenção da jurisdição episcopal a diversos mosteiros, fortalecendo assim sua autonomia — vários nobres, inclusive, colocaram voluntariamente suas terras sob a proteção direta da Santa Sé.

Um episódio de seu pontificado gerou intenso debate entre historiadores modernos: uma bula papal, atribuída a Sérgio IV, que teria conclamado a cristandade a expulsar os muçulmanos da Terra Santa após a destruição da Igreja do Santo Sepulcro em Jerusalém, ordenada em 1009 pelo califa fatímida Al-Hakim bi-Amr Allah — evento historicamente bem documentado e de enorme impacto simbólico para toda a cristandade europeia da época. A autenticidade desse documento, contudo, permanece sendo discutida entre historiadores.

Sérgio IV faleceu em Roma, em 12 de maio de 1012. Foi sepultado na Basílica de São João de Latrão e, embora nunca formalmente canonizado, é ocasionalmente venerado como santo por monges beneditinos, ordem à qual pertencera.