В должности начальника инженерного факультета Военно-инженерной академии имени В. В. Куйбышева организовал в первые месяцы после начала войны ускоренный выпуск слушателей старших курсов академии и отправку их на фронт. В целях оказания помощи в возведении Днепровского рубежа был направлен в составе группы генералов и офицеров Военно-инженерной академии на Западный фронт. 15 декабря 1941 года назначен начальником Московского Высшего военно-инженерного училища. За время войны училище под командованием генерал-майора Ермолаева выпустило более семи тысяч офицеров инженерных войск. За «отличную подготовку офицерских кадров и частей» награжден орденами Красной Звезды и Отечественной войны I степени. Командовал парадным расчетом училища во время парада Победы.