Toma su nombre de un relato de la tradición romana sobre el martirio de cuatro marmolistas cristianos que, bajo el mandato del emperador Diocleciano, fueron ejecutados por negarse a tallar ídolos paganos.
Originalmente, en este lugar se alzaba una rica residencia aristocrática de la Antigüedad tardía, y no fue hasta el siglo V cuando el papa León IV reconstruyó sobre estos mismos cimientos un gran edificio de tres naves de formas tan ricas que se convirtió en una de las basílicas más importantes de la Roma carolingia. Sin embargo, el incendio que asoló la ciudad en 1084 la destruyó totalmente.
Reconstruida a menor escala, a instancias del papa Pascual II en el siglo XII, volvió a caer en desuso con el traslado de la sede papal a Aviñón, hasta 1564, cuando el papa Pío IV convirtió la estructura en un orfanato femenino para las monjas agustinas de clausura que aún viven allí.