Ostrogorsky, Sohn eines Gymnasialdirektors, verließ Rußland nach der Revolution und studierte in Heidelberg und Paris (Dr. phil., Heidelberg 1926). 1928-1933 war er Privatdozent für byzantinische und südslawische Geschichte in Breslau. 1933 wurde er als Professor der Byzantinistik nach Belgrad berufen und blieb dort bis zu seinem Lebensende.

Sein großer Wurf war die 1940 in München erschienene Geschichte des byzantinischen Staates. Mehrfach neu aufgelegt und in verschiedene Sprachen übersetzt, ist dieses Werk weit über die normale Lebensdauer eines Handbuches die maßgebende Gesamtdarstellung der byzantinischen Geschichte geblieben, ausgezeichnet durch erschöpfende Auswertung und vorsichtige Bewertung des riesigen Quellenmaterials sowie Bewahrung einer großen Linie bei aller Genauigkeit im Detail. Schwerpunkt von Ostrogorskys Spezialforschung war stets die Wirtschafts- und Sozialgeschichte von Byzanz. Aber auch grundlegende Studien zu zahlreichen anderen Aspekten der byzantinischen Geschichte werden ihm verdankt, so besonders zum Bilderstreit, zur Kaiserideologie und zu den Beziehungen zwischen Byzanz und der slawischen Welt.