Rückert war von 1811 bis 1812 Privatdozent für Philologie in Jena, bis 1826 Privatgelehrter in Coburg, 1827 Professor für Orientalische Sprachen in Erlangen, 1841 in Berlin. 1849 zog er sich zurück, um ganz seinen Studien leben zu können.

Als Dichter, vor allem der "Geharnischten Sonette" und der "Weisheit des Brahmanen, ein Lehrgedicht in Bruchstücken", von großer Wirkung. Von Rückerts Dichtungen sind jedoch nur der 1823 entstandene "Liebesfrühling" und die von Gustav Mahler 1902 vertonten "Kindertotenlieder" heute nicht vergessen.

Die streng wissenschaftliche Orientalistik wurde von ihm zwar nur teilweise gefördert, doch besteht seine größte Leistung in der Erschließung der persisch-arabischen Dichtung. Meisterhaft waren seine Verdeutschungen von arabischen, persischen, indischen und chinesischen Dichtwerken. Im besonderen schuf Rückert, der in Wien durch Hammer-Purgstall starke Anregungen empfing, von ihm auch in die persische Sprache eingeführt wurde, ebenso originalgetreue wie formvollendete Übersetzungen des Mystikers Dschelal ed-Din Rumi und der Makamen des Hariri sowie Nachdichtungen ("Östliche Rosen") des Hafis.