Gustaw Herling-Grudziński war ein Sohn von Jakub Herling-Grudziński und Dorota Bryczkowska. Er begann ein Literaturstudium an der Universität Warschau, das bald ein Ende fand, als im September 1939 die Deutschen den Zweiten Weltkrieg entfesselten und Polen überfielen. Herling schloss sich der Untergrundorganisation "Polska Ludowa Akcja Niepodległościowa" („PLAN“) an. Im März 1940 wurde er beim Versuch der illegalen Überschreitung der sowjetisch-litauischen Grenze vom NKWD festgenommen und zu fünf Jahren Arbeitslager verurteilt. Er kam in die Lager in Jerzewo und in Kargopol im Nordwesten Russlands. In der Folge des Sikorski-Maiski-Abkommens im Juli 1941 wurde er im Jahr 1942 freigelassen und für die Anders-Armee im 2. polnischen Korps rekrutiert. Er kämpfte in dieser Einheit in Nordafrika und in Italien. Für den Einsatz bei Monte Cassino erhielt er von der Polnischen Exilregierung in London den Orden Virtuti Militari. Nach Kriegsende kehrte er nicht in das nunmehr sowjetisch kontrollierte Polen zurück.