Vid andra världskrigets början ledde Berlin ett artilleriregemente vid västfronten. Hösten 1939 utnämndes han till "Artillerie-Kommandeur 101 (Arko 101)" som verkade på kårnivå under slaget om Frankrike 1940. Hösten 1940 blev Berlin kommendant för en artilleriskola – en tjänst som han hade till april 1943, då han (efter några veckor i befälsreserven) fick befälet över 58. Infanterie-Division, som då befann sig på den norra delen av östfronten.