Затем, в рамках подготовки к операции «Барбаросса», полк был переброшен в Польшу и включён в состав 46-го моторизованного корпуса 2-й танковой группы генерал-полковника Гейнца Гудериана группы армий «Центр». Советскую границу подразделения «Великой Германии» перешли 28 июня 1941 года, наступая во втором эшелоне 2-й танковой группы. В течение следующего месяца части полка участвовали в ликвидации окружённых в районе Минска советских войск и прикрывали фланги наступающим танковым дивизиям вермахта. Затем полк принимал участие в форсировании Днепра, в операции по окружению группировки советских войск под Могилёвом, а 19 июля 1941 года совместно с 10-й танковой дивизией захватывал Ельню. Дальнейшее наступление немецких войск на этом участке было остановлено. Соединения 24-й армии Фронта резервных армий (с 30 июля 1941 года — Резервного фронта) перешли в контрнаступление, и немецкие войска с большим трудом удерживали оборону. Так, 30 июля 1941 года под Ельней полк «Великая Германия» отразил 13 атак советских войск. В начале августа на ельнинском выступе наступило затишье: советские войска проводили перегруппировку перед новым наступлением. Воспользовавшись этим, немецкое командование приняло решение сменить моторизованные соединения пехотными дивизиями 20-го армейского корпуса. Полк «Великая Германия» был отведён с передовой и доукомплектован личным составом и вооружением.