В 1941 году он в звании генерал-майора принимает командование 71-й пехотной дивизией, и затем в составе группы армий «Юг» участвует в боях за Сталинград. Уже в Сталинграде за храбрость был награждён Рыцарским крестом Железного креста, 1 декабря 1942 года фон Гартману присваивается звание генерал-лейтенанта.