Au début de la Seconde Guerre mondiale, Mahlmann était le commandant d'un régiment sur le front de l'Ouest puis à partir de 1941 sur le front de l'Est. En 1943, il est réaffecté en France et nommé "Generalleutnant", lieutenant-général, commandant la d'infanterie. En 1944, il combattra en Normandie sur la ligne de défense qu'il avait organisée dans le Cotentin.