22 июня 1941 года началось нападение на Советский Союз. Дивизия входила в группу армий «Юг». Город Кишинев был захвачен в ходе уличных боёв. После переправы через Днестр в районе Берислава на штурмовых катерах и резиновых лодках была захвачена линия Сталина. После форсирования Днепра и боев в Северном Причерноморье в сентябре был взят Мелитополь. С середины сентября 1941 года 72-я пехотная дивизия находилась на Перекопе. После этого дивизию перебросили на полуостров Крым, где она воевала с 16 ноября 1941 года взяв города Симферополь, Ялту и в ходе дальнейшего продвижения по Севастопольскому шоссе Алупку и Байдары. Первый штурм Севастопольской крепости в декабре не удался. Когда в январе 1942 года Красная Армия высадилась в восточном Крыму в ходе Керченско-Феодосийской десантной операции, там дислоцировался 105-й полк дивизии. Остальная часть дивизии находилась на позициях под Севастополем до июня 1942 года. Во время решающего штурма Севастополя 4 июля 72-я пехотная дивизия участвовала в атаках с тяжёлыми потерями.