Cuối tháng 4 năm 1941, Tập đoàn quân số 6 được chuyển tới Ba Lan, thuộc biên chế Cụm tập đoàn quân Nam. Ngày 22 tháng 6 năm 1941, tập đoàn quân cùng đội hình Cụm tập đoàn quân Nam tấn công vào Liên Xô theo hướng Ukraina. Sau trận chiến biên giới ở Galicia và Volhynia, Tập đoàn quân số 6 đã phá vỡ Phòng tuyến Stalin vào tháng 7 năm 1941, dồn các đơn vị Hồng quân về hướng sông Dnepr. Giữa tháng 8 và tháng 9 năm 1941, tập đoàn quân đã tham gia trận chiến bao vây Kiev. Tháng 10 năm 1941, tập đoàn quân đã chiến đấu trong các trận chiến ác liệt tại Kharkov và Belgorod. Mặt dù thu được những chiến tích to lớn, nhưng cũng như trên toàn mặt trận Xô - Đức, sự kháng cự ngoan cường của Hồng quân Liên Xô đã khiến cho ý đồ của quân Đức không thể đạt được mục đích hủy diệt hoàn toàn lực lượng chủ lực của Hồng quân Liên Xô.