Schwartz studierte in Bonn, Berlin, Greifswald, kehrte nach Bonn zurück, wo er 1880 promovierte und sich 1884 habilitierte. 1887 a. o., dann o. Professor in Rostock, 1893 in Gießen, 1897 in Straßburg, 1902 in Göttingen, 1909 in Freiburg, 1913 wieder in Straßburg, von wo er beim Kriegsende nach Freiburg fliehen mußte, 1919 in München. 1927-30 Präsident der Bayerischen Akademie. 1929 Emeritierung.

Der "größte Editor und Handschriftenkenner seit Immanuel Bekkers Zeiten" (A. Rehm). Grundlegende Ausgabe der Euripides-Scholien 1887/91. Edierte die Kirchengeschichte des Eusebios 1903 ff. und die Konzilsakten von 431 bis 553. In der Homerischen Frage besonders radikaler Analytiker: "Zur Entstehung der Ilias" 1918. "Die Odyssee" 1924. Schichtentrennung auch in dem Buch "Das Geschichtswerk des Thukydides" 1919, 2. Aufl. 1924. Zusammenfassend: "Fünf Vorträge über den griechischen Roman" 1896. "Charakterköpfe aus der antiken Literatur" 1902.