Sohn eines preußischen Beamten, aufgewachsen auf dem Hof seines Großvaters im Havelland, studierte er in Berlin, Freiburg und Wien Literatur und Philosophie. Erste Gedichte veröffentlichte er 1924, wurde Mitarbeiter der "Literarischen Welt" und erhielt für seinen ersten Gedichtband "Der Knabenteich" 1932 einen Literaturpreis. 

Unter der NS-Herrschaft lebte er zurückgezogen und ernährte sich mit unpolitischen Arbeiten für den Rundfunk. Soldat von 1940 bis 1945, wurde er nach seiner Entlassung aus der russischen Kriegsgefangenschaft zunächst künstlerischer Direktor beim Ostberliner Rundfunk, dann seit 1952 Chefredakteur der literarischen, in Ostberlin erscheinenden Zeitschrift "Sinn und Form". Huchel, kompromißlos auf Qualität bedacht, ließ hier ost- wie westdeutsche Autoren zu Wort kommen und betonte so die Einheit der deutschen Literatur. 1962 verlor er aus politischen Gründen die Herausgeberschaft, mußte unter kleinlichen Schikanen, verfemt, in Wilhelmshorst bei Potsdam leben und erhielt erst 1971 die Erlaubnis, die DDR zu verlassen. 

Seine überragende Bedeutung liegt in seiner Lyrik, in der er Schwieriges mit suggestiver Bildkraft einfach zu sagen verstand, wobei in seinen klaren, häufig schwermütigen Versen die Landschaft Chiffre menschlicher Situation ist, unheimlich, labyrintisch, mythisch. Seine Naturbilder sind so Bilder der Geschichte, die soziale Wirklichkeiten einbeziehen, mit Parteinahme für die arme, vom Zeitgeschehen gequälte Kreatur. 

Zahlreiche Literaturpreise und der für literarische Kritik der Deutschen Akademie für Sprache und Dichtung wurden ihm dafür zuteil.