Khi Đức chuẩn bị thôn tính Liên bang Xô viết vào đầu năm 1941, Sư đoàn Thiết giáp 4 trở thành một trong 5 sư đoàn thuộc Quân đoàn XXIV do Thượng tướng Thiết giáp Leo Geyr von Schweppenburg chỉ huy. Quân đoàn này được phiên chế trong Cụm Thiết giáp số 2 (sau nâng cấp thành Tập đoàn Thiết giáp số 2) của Đại tướng Heinz Guderian, người có mệnh danh là "cha đẻ" của Binh chủng Tăng - Thiết giáp Đức. Ngày 22 tháng 6 năm 1941, Hitler phát động Chiến dịch Barbarossa tấn công Liên Xô. 9 ngày sau đó (1 tháng 7), Eberbach được phân công làm Lữ đoàn trưởng Lữ đoàn Thiết giáp số 5, với đội hình lúc này gồm Trung đoàn Thiết giáp 35, Tiểu đoàn Trinh sát Thiết giáp 4 cùng 1 tiểu đoàn bộ binh mô tô. Ông dẫn dắt lữ đoàn tham gia đánh các trận hợp vây lớn tại Minsk (cuối tháng 6 – 3 tháng 7 năm 1941), Smolensk (tháng 7 năm 1941), Gomel (tháng 8 năm 1941), Kiev (tháng 9 năm 1941), Vyazma-Bryansk (30 tháng 9 – 20 tháng 10 năm 1941) và uy hiếp thủ đô Moskva. Những chiến thắng của Eberbach đã đem lại cho ông sự tín nhiệm vững chắc từ thủ trưởng Guderian. Tuy nhiên, Lữ đoàn Thiết giáp 5 nói riêng - và Tập đoàn Thiết giáp số 2 nói chung - bị chặn đứng với tổn thất rất lớn trong các trận đánh trước cửa ngõ Moskva 3 tháng cuối năm 1941. Ngày 16 tháng 12, Hồng quân Liên Xô phát động phản công trên toàn tuyến. Guderian vì "tự ý rút quân" nên bị Hitler sa thải và thay thế bằng Thượng tướng Thiết giáp Rudolf Schmidt. Do có nhiều công trạng trong trận hợp vây Vyazma-Bryansk và trong việc ngăn chặn các đợt phản kích của Hồng quân, Eberbach được ghi danh trong sổ tuyên dương của quân đội Đức, và nhận thưởng Lá sồi đính kèm Huân chương Chữ Thập Hiệp sĩ của ông vào ngày 1 tháng 1 năm 1942.