Nach der deutschen und sowjetischen Besetzung Polens 1939 ging er zunächst in den sowjetisch besetzten Teil, um dort illegale Organisationen aufzubauen, und kehrte im April 1940 in das deutsch besetzte Warschau zurück, wo die jüdische Bevölkerung im Oktober 1940 ghettoisiert wurde. Im Warschauer Ghetto, aber auch in anderen polnischen Regionen organisierte er zunächst vielfältige Bildungsaktivitäten. Als im Winter 1941 das Ausmaß des Holocaust im Ghetto Wilna und im Vernichtungslager Kulmhof bekannt wurde, forderte Zuckerman den bewaffneten Widerstand vom Judenrat des Ghettos. Als die Massendeportationen aus dem Warschauer Ghetto im Juli 1942 begannen, war er unter denen, die die Jüdische Kampforganisation (ŻOB) gründeten. Während er sich im Dezember 1942 im Ghetto Krakau aufhielt, unternahm die dortige Widerstandsorganisation einen Anschlag auf ein von den deutschen Besatzern frequentiertes Café. Im Januar 1943 kam es in Warschau unter der Leitung von Mordechaj Anielewicz zu einer bewaffneten Widerstandsaktion gegen die Deportationen, beteiligt daran war seine spätere Ehefrau Zivia Lubetkin. Zuckermans Aufgabe war nun vornehmlich, die Verbindung zu den polnischen Widerstandsorganisationen Armia Ludowa und Armia Krajowa zu halten. Als im April 1943 der Aufstand im Warschauer Ghetto losbrach, hielt er sich gerade illegal im „arischen“ Teil Warschaus auf und unterstützte den Aufstand von außen. Über ihn gelangten Mitteilungen des ŻOB-Leiters Anielewicz an die internationale Presse. Nach der Niederschlagung des Aufstandes sorgte er dafür, dass eine Gruppe Widerstandskämpfer am 12. Mai 1943 nach einer 48-stündigen Flucht durch die Warschauer Kanalisation jenseits der Ghettomauern in Sicherheit gebracht werden konnte. Die wenigen Überlebenden kooperierten mit dem polnischen Widerstand, und im August 1944 nahm Zuckerman mit einer jüdischen Kampfgruppe am Warschauer Aufstand aufseiten der polnischen Heimatarmee gegen die deutsche Besatzung teil.