Během tažení do Evropy v letech 1813 a 1814 Jermolov velel dělostřeleckým oddílům spojenců. V roce 1813 bojoval u Lützenu, kde byl obviněn z porušení subordinace a převelen ke 2. gardové divizi. Poté bojoval u Budyšína, kde během ústupu velel zadnímu voji. V bitvě u Chlumce se po zranění hraběte Ostermana-Tolstého ujal velení ruských sil na levém křídle spojeneckých vojsk. Velitelskými schopnostmi přispěl rozhodným způsobem u Chlumce k vítězství.