Syn Anny i Zygmunta Rakowieckich, właścicieli majątku Leszno koło Przasnysza (ok. 600 ha). Uczył się w gimnazjum w Warszawie i w Rabce. W trakcie II wojny światowej majątek został skonfiskowany przez Niemców. W 1940 rodzina Rakowieckich opuściła Leszno i zamieszkała w Warszawie. Zygmunt Rakowiecki kontynuował naukę w tajnej Szkole Ziemi Mazowieckiej, następnie studiował na również tajnym Wydziale Prawa Uniwersytetu Warszawskiego. Jako żołnierz Armii Krajowej (pseud. "Rola") walczył w powstaniu warszawskim w ramach zgrupowania Gurt. Był następnie jeńcem stalagu 344 Lamsdorf.