Eind oktober 1941, na de Duitse aanval op de Sovjet-Unie, werd Mahle geëvacueerd naar Koejbysjev, waar hij in opdracht van de Komintern begon met de heropvoeding van Duitse krijgsgevangenen. Deze opdracht vervulde hij in december 1941 in het krijgsgevangenenkamp "Spaski Sawod" in Karaganda, samen met onder anderen Walter Ulbricht.