Полк создан в декабре 1942 года. После боёв в Донбассе, в апреле 1943 года вошёл в состав 4-го гвардейского танкового корпуса как 120-й гвардейский зенитный артиллерийский полк. Затем принял участие в знаменитом танковом сражении на Курской дуге у Прохоровки. Потом полк участвовал в освобождении Украины, Польши, Чехословакии, Германии. Война для полка завершилась на легендарной встрече союзников на Эльбе.