С начала Отечественной войны 1812 года генерал-майор Ермолов командовал Гвардейской артиллерийской бригадой и 2-й гвардейской пехотной бригадой, но вскоре был назначен начальником штаба 1-й Западной армии. За отличие в сражении на Валутиной горе был произведён в генерал-лейтенанты; далее он отличился в Бородинском сражении, при Малоярославце, в уличных боях в Вязьме и при Красном. В Заграничных походах 1813 года был начальником всей артиллерии русской армии и затем командовал 2-й гвардейской пехотной дивизией. При штурме Монмартрских высот под Парижем в 1814 году командовал русской и прусской гвардейской пехотой.