Ce nom provient d'un récit de la tradition romaine, concernant le martyre de quatre marbriers chrétiens qui, sous l'empereur Dioclétien, furent mis à mort parce qu'ils avaient refusé de sculpter des idoles païennes.
À l'origine, à cet endroit, il y avait une riche résidence aristocratique de l'Antiquité tardive et ce n'est qu'au Ve siècle que fut reconstruit sur ces mêmes fondations, par le pape Léon IV, un grand bâtiment à trois nefs aux formes si riches qu'il devint l'une des plus importantes basiliques de la Rome carolingienne.
Cependant l'incendie qui ravagea la ville en 1084 la détruisit complètement.
Reconstruite à plus petite échelle, à la demande du pape Pascal II au XIIe siècle, elle tomba à nouveau en désuétude avec le transfert du siège pontifical à Avignon, jusqu'en 1564, année où le pape Pie IV transforma la structure en orphelinat féminin pour les religieuses Augustiniennes cloîtrées qui y vivent encore aujourd'hui.