En el tiempo de iniciar la Operación Barbarroja el 22 de junio de 1941, la división de Mattenklott se hallaba en Rumania; se puso bajo el 11º Ejército del Grupo de Ejércitos Sur como formación de reserva. Luchó inicialmente cerca de Nikolayev en Ucrania, después cruzando el río Dniéper, un punto vital que permitía el avance hacia Crimea. Mattenklott lideró sus unidades durante la Campaña de Crimea, alcanzando Sebastopol a finales de otoño. El 1 de octubre de 1941, fue promovido a General de Infantería.