1831 Tübinger Stiftler, 1840 Privatdozent in Tübingen, 1847 Theologieprofessor in Bern, 1849 als Professor der Philosophie in Marburg, 1862 in Heidelberg, 1872 in Berlin. Zeller begann als Theologe und folgte ganz der historisch-kritischen Arbeitsweise der Tübinger Schule, durch die er oft auf den erbitterten Widerstand orthodoxer Kreise stieß. 

So wandte er sich mehr und mehr der Philosophie zu und wurde der führende Historiker der "Philosophie der Griechen". Dieses vielbändige Standardwerk, das auf staunenswerter historisch-philologischer Kleinarbeit aufgebaut ist, erlebte zahlreiche Auflagen und ist bis heute unentbehrlich. Sein philosophischer Standpunkt war ein durch neue Anlehnung an Kant modifizierter, geschichtsphilosophisch begründeter Idealismus. Bis ins höchste Alter tätig war er von allen Seiten hochgeehrt.