Seine Ausbildung verdankte de Rossi dem Collegio-Romano, wo ihn der gelehrte Jesuit Marchi zu archäologischen Studien anregte. Er wurde sehr bald zu einem ausgezeichneten Kenner der stadtrömischen Topographie und der römischen Epigraphik. Seine Haupttätigkeit hat er als Präsident der Pontificia Accademia d'Archeologia entfaltet.

Mit Recht gilt de Rossi als der eigentliche Begründer der christlichen Archäologie, denn er ist der erste gewesen, der mit den Methoden der modernen archäologischen Wissenschaft sich diesem Gebiet zuwandte. Seine Ausgrabungen und Entdeckungen in den römischen Katakomben sind von außerordentlicher Bedeutung auch für die heutige und die zukünftige Forschung. Unter seinen Werken ragen "Inscriptiones christianae urbis Romae" und "Roma sotteranea cristiana" besonders hervor. Mit den Hilfsmitteln seiner Zeit hat er Sorge getragen für die Erhaltung der Wandbilder und Inschriften sowie für Sicherung der Gänge und Kammern in den Katakomben.