Brzy po návratu do USA byl Ferencz osloven, aby se podílel na vyšetřování válečných zločinů, které byly v té době projednávány v Norimbeských procesech. Jeho nadřízeným byl plukovník Telford Taylor, který Ferencze pověřil získáváním důkazů o válečných zločinech spáchaných příslušníky SS. V Berlíně se svým týmem Ferencz vypátral hlášení se záznamy o vraždách židů, které vykonaly jednotky zvláštního určení Einsatzgruppen, jejichž úkolem bylo eliminovat nežádoucí osoby. Podle odhadů tato jednotka zabila mezi lety 1941–1945 až dva miliony lidí. Ferencz se vrátil do Norimberku, kde Telforda Taylora požádal o další proces. Taylor nejprve nový proces odmítl s tím, že všechny procesy jsou již schválené. Ferencz byl, ale neoblomný a Taylor nakonec svolil a jmenoval Ferencze hlavním žalobcem v procesu s Einsatzgruppen, který byl devátým procesem z dvanácti Následných norimberských procesů. V této době bylo Ferencovi pouhých 27 let.