В начале Великой Отечественной войны М. Н. Герасимов в той же должности. С начала июля 1941 года корпус в составе 23-й армии Северного фронта оборонял государственную границу СССР от посёлка Энсо до района западнее города Сортавала. С 6 августа 1941 года — командующий 23-й армией. Под командованием М. Н. Герасимова войска армии в тяжёлой обстановке отражали наступление финских войск на Ленинград с севера и под ударами сил противника отошли на линию старой государственной, границы где заняли ранее оборудованный Карельский укреплённый район. 8 сентября 1941 года направлен в распоряжение командующего войсками Ленинградского фронта К. Е. Ворошилова. В июне-сентябре 1942 года — руководитель группы контроля за формированием маршевых пополнений в военных округах. В дальнейшем М. Н. Герасимов — заместитель командующего войсками Калининского фронта, в распоряжении Главного управления кадров, заместитель командующего войсками 2-го Прибалтийского фронта. В этот период М. Н. Герасимов участвовал в Ленинградско-Новгородской, Старорусско-Новоржевской, Режицко-Двинской, Прибалтийской наступательных операциях. С 16 августа по 5 октября 1944 года — командующий войсками 3-й ударной армии 2-го Прибалтийского фронта. Под командованием М. Н. Герасимова армия принимает участие в Мадонской и Рижской наступательных операциях. С октября 1944 года — заместитель командующего войсками 2-го Прибалтийского фронта.