Leão nasceu em Roma. Foi cardeal na Basílica de Santi Quattro Coronati.

Logo após sua eleição, sua missão principal foi fortalecer as defesas de Roma contra o possível retorno dos mulçumanos. As tropas de Nápoles, em 849, pediram sua benção antes da batalha contra os mulçumanos fora de Ostia.

Leão IV foi responsável por diversas construções, como os muros e torres da Civitavecchia, a restauração e embelezamento da Basílica de São Pedro e muitas outras igrejas.

Foi durante o papado de Leão IV que houve o incêndio na Basílica de São Pedro e que, segundo a história, foi extinto com um sinal da cruz.

As relíquias de São Leão IV se encontram na Capela de Nossa Senhora do Pilar, na basílica de São Pedro.