En , au moment de l'invasion de la Pologne, Fegelein commande le « Totenkopf Reiterstandarte » (en français, le « régiment de cavalerie Tête de mort ») de la SS-Verfügungstruppe (la SS-VT, transférée dans la Waffen-SS à partir de ). Il est en garnison à Varsovie jusqu'en . En mai et , il participe à la bataille de France. Pour ses services au cours de ces campagnes, on lui octroie la croix de fer de le . Après le déclenchement de l'invasion de l'Union soviétique à , les unités sous son commandement sont responsables de l'extermination de plus de , juifs pour la plupart, dans les marais du Pripiat en Biélorussie.