С началом Великой Отечественной войны Вели Ахундов добровольно отправился на фронт. Был батальонным комиссаром в составе 57-ой армии. Весной 1942 года во время боёв в окрестностях Харькова Ахундов попал в окружение сил противника. Выйдя из окружения, Ахундов под именем Александр Гасанов (документы на имя Александра Матвеевича Гасанова Ахундов получил при помощи местных коммунистов) под видом агронома возглавил антифашистскую подпольную деятельность в Лозовском (в селе Надеждино) и Близнюковском районах Харьковской области. Летом 1942 года он был избран председателем бюро подпольной партийной организации в Лозовском районе, в которой состояло 100 человек. В сёлах Лозовского района Вели Ахундов организовывал боевые отряды из комсомольцев. Под руководством Ахундова в селе Анастасьевка была создана подпольная комсомольская организация.