바르바로사 작전의 시작과 시코르스키-마이스키 협정 체결 이후, 안더스는 소련 당국으로부터 석방되었다. 이는 폴란드군이 붉은 군대와 함께 싸우고자 하는 목표였다. 하지만 안더스는 소련과 정치적 문제로 대립했고 무기, 식량, 의복 등의 문제로 안더스의 군대라 알려진 그의 병사들이 폴란드 시민들과 같이 페르시아 협곡을 통해 이란, 이라크, 영국 위임통치령 팔레스타인 등지로 도피하기 시작했다. 1942년 3월 발생한 이 이주는 영국-소련-폴란드의 이해관계에 바탕을 두고 있었다. 중동 지역으로 탈출한 폴란드인들은 영국군의 호위를 받으며 팔레스타인으로 왔고, 안더스는 이곳에서 폴란드 제2군단을 창립했다. 폴란드 제2군단은 폴란드 서부군의 중요한 전략적 작전부대가 되었다. 이 부대는 1944년 이탈리아 전역의 몬테카시노 전투에서 활약했고, 이후 고딕 선과 포도탄 작전에서 활약한다.