В июле 1941 года назначен на должность начальника 1-го отделения 121-й стрелковой дивизии, а в декабре того же года — на должность начальника штаба этой же дивизии. 121-я дивизия принимала участие в боевых действиях в ходе Смоленского сражения, в Орловско-Брянской оборонительной операции, а затем — в оборонительных операциях на воронежском направлении. Маркелов трижды в составе дивизии находился в окружении. После начала контрнаступления под Москвой дивизия принимала участие в ходе Клецкой наступательной операции, во время которой 10 декабря в бою в районе населённого пункта Волово (Курская область) Маркелов был ранен и контужен. После излечения в мае 1942 года назначен на должность заместителя командира этой же дивизии, которая принимала участие в ходе Воронежско-Ворошиловградской оборонительной операции. 13 июля того же года в бою под Воронежем был тяжело ранен, после чего лечился в военных госпиталях № 359 и 360, дислоцированных в городах Чкалов и Саратов. После выздоровления с февраля 1943 года Маркелов исполнял должность заместителя командира 11-й учебной бригады (Приволжский военный округ).