Kurz nach Beginn des Angriffs auf die Sowjetunion, bei dem seine Division im Rahmen der Panzergruppe 2 der Heeresgruppe Mitte eingesetzt wurde, wurde Arnim am 28. Juni 1941 bei Stolpce in Weißrussland verwundet, worauf ein längerer Lazarettaufenthalt in Deutschland folgte. Nachdem er am 4. September das Ritterkreuz des Eisernen Kreuzes erhalten hatte, übernahm er ab Mitte September wieder das Kommando über die Division. Während der folgenden Doppelschlacht bei Wjasma und Brjansk gelang dem Verband im Oktober die handstreichartige Eroberung von Brjansk, worauf ein Vorstoß auf Tula erfolgte. Die 17. Panzer-Division unter Arnims Führung war die einzige Division der Wehrmacht, bei der der berüchtigte Kommissarbefehl nachweislich nicht durchgeführt wurde.