Ferencz wurde als einfacher Soldat eingezogen und kämpfte 1944 in einer Flak-Einheit in Frankreich, als er den Befehl erhielt, in der „Judge Advocate Section“ einen „War Crimes Branch“ einzurichten. Er sammelte Beweismaterial für Kriegsverbrechen der Deutschen. „So weit ich weiß, war ich der Erste in der amerikanischen Armee, der sich mit Kriegsverbrechen beschäftigte“, sagte Ferencz selbst rückblickend. Er untersuchte Lynchmorde an alliierten Piloten und ermittelte unmittelbar nach der Befreiung in deutschen Konzentrationslagern. So in Ohrdruf, in Buchenwald, in Flossenbürg, in Mauthausen-Gusen und in Ebensee.