На фронтах Великой Отечественной войны с июня 1941 года. 274-й корпусный артиллерийский полк вступил в войну, будучи переданным 24 июня в 18-ю армию Южного фронта. Участвовал в приграничном оборонительном сражении в Молдавии, в Тираспольско-Мелитопольской и Уманской оборонительных операциях. Отлично слаженный своим командиром полк отличался выдающейся стойкостью и эффективностью в обороне, часто использовался командующим армией для спасения обстановки на наиболее угрожаемых участках. Командир дважды выводил полк из окружения с сохранением материальной части. В сентябре 1941 года около месяца полк удерживал оборону под Нижнеднепровском и Красноградом. За выдающиеся заслуги одним из первых в советской артиллерии полк получил гвардейское звание в октябре 1941 года и стал именоваться 4-м гвардейским пушечным артиллерийским полком. Уже под гвардейским знаменем участвовал в Донбасско-Ростовской оборонительной операции в октябре-ноябре 1941 года, в Донбасской оборонительной операции летом 1942 года, в оборонительном и наступательном этапах битвы за Кавказ.