С началом войны находился на прежней должности, участвовал в Белостокско-Минском сражении с утра 22 июня 1941 года. Дивизия под командованием М. П. Константинова в составе 6-го кавалерийского корпуса вела тяжёлые оборонительные боевые действия на территории Белорусской ССР. Приняв первый бой у города Ломжа, 6-я кавалерийская дивизия с тяжелыми боями отходила к Минску, но в районе юго-западнее Минска была окружена. Из кольца пробилась с боем группа кавалеристов не более 300—350 сабель, которая отошла в район Орши, но там в неравных боях и эти бойцы тоже почти все погибли. Сам генерал Константинов 29 июня был тяжело ранен у Минска и после выздоровления принимал участие в боевых действиях в составе партизанских соединений.