Nach der Machtergreifung 1933 blieb Berkowitz anfangs – aufgrund seines Einsatzes im Ersten Weltkrieg – noch vom Berufsverbot für jüdische Juristen verschont, doch 1935 entzogen ihm die Nationalsozialisten sein Notariat. Seine beiden Sozien trennten sich bereits im Juni 1933 von ihm. Am Tag nach der sogenannten „Reichskristallnacht“ wurde er am 10. November 1938 schließlich verhaftet und in das Konzentrationslager Buchenwald verschleppt. Da er Träger des Goldenen Verwundetenabzeichens war, durfte er Buchenwald nach kurzer Zeit jedoch wieder verlassen. Dort arbeitete er zunächst als sogenannter „Konsulent“, als Rechtsvertreter in jüdischen Angelegenheiten. Im Dezember 1940 wurde er trotz seiner schweren Verwundungen arbeitsverpflichtet und musste sich täglich im KZ Ahlem melden.