Центральная Россия
С сентября 1941 года до конца ноября 1941 года назначен руководителем СС и полиции в Саратове, а затем руководителем СС и полиции при высшем руководителе СС и полиции «Центральная Россия». Руководил и организовывал антипартизанские операции на подконтрольных ему территориях. При этом на Шимана лежит ответственность за разрушение 103 деревень и смерть 4018 человек. С января по июль 1942 года командовал полицейским полком «Центр». С 21 августа 1942 руководитель СС и полиции в Белоруссии (штаб-квартира в Минске) и комендант Минска. 30 июня 1943 возглавил сформированную из украинских националистов добровольческую дивизию СС «Галичина» и созданную им боевую группу «Шимана», воевавшую с партизанами между Минском и Борисовом. 18 октября 1943 года назначен Высшим руководителем СС и полиции в Греции, в этой должности сыграл важную роль в депортации греческих евреев. С 5 октября 1944 года назначен Высшим руководителем СС и полиции на Дунае.