Il participe en septembre 1939 à l’invasion de la Pologne, avec le III. Armeekorps. De juin à août 1940, il sert à l’'état-major de la Division d'infanterie lors de la bataille de France. De septembre 1940 à février 1941, il sert à l’état-major général dans la allemande, dans le nord de la France. Par la suite, Mellenthin est envoyé en Afrique du Nord, où de juin 1941 à septembre 1942, il est affecté à l’état-major du Generaloberst Erwin Rommel, dans l'Afrikakorps. Là, il tombe malade et doit être hospitalisé en Bavière. Il sert de novembre 1942 à mai 1944 à l’état-major du XXXXVIII. Panzerkorps sur le front de l'Est, en Russie. Là, il participe à l'encerclement de Stalingrad. Mellenthin participe ensuite à la bataille de Koursk, puis à celle de Kiev. Au printemps 1944, il participe aux combats dans l'ouest de l'Ukraine, notamment à Tarnopol.