Toisen maailmansodanalakessa ja Saksan hyökätessä Puolaan syyskuussa 1939 Berling oli Vilnassa. Myös Neuvostoliiton joukot hyökkäsivät Puolaan vielä samassa kuussa ja Berling internoitiin Starobielskissä. NKVD kyyditti monet internoidut puolalaiset upseerit Harkovaan, jossa heidät surmattiin. Berling vältti kuitenkin monien toveriensa kohtalon. Hänet siirrettiin vankileirille Grjazovetsiin, jossa hän ilmaisi neuvostoviranomaisille olevansa valmis yhteistyöhön heidän kansaan ilman omia poliittisia vaatimuksiaan. Marraskuussa 1940 Berling ja joukko muita puolalaisia upseereja saivatkin aloittaa puolalaisen divisioonan kokoamisen.