В боях с немецко-фашистскими захватчиками Анатолий Алексеевич участвовал с 22 июня 1941 года на Западном фронте. В ходе Белостокско-Минского сражения он был тяжело ранен и эвакуирован в госпиталь. После излечения его признали негодным к строевой службе и направили преподавателем в Казанское танковое училище. После нескольких рапортов А. А. Чепуренко добился отправки на фронт и в октябре 1944 года получил назначение в 32-ю гвардейскую танковую бригаду 29-го танкового корпуса 5-й гвардейской танковой армии 1-го Прибалтийского фронта, где был назначен командиром 3-го танкового батальона. До января 1945 года гвардии капитан А. А. Чепуренко участвовал в боях с окружённой в Прибалтике группой армий «Курляндия». Перед началом Восточно-Прусской операции 5-я гвардейская танковая армия была подчинена 2-му Белорусскому фронту и участвовала в Млавско-Эльбингской фронтовой наступательной операции.