С 1822 года Ермолов находился на Кавказе, где постоянно принимал участие в походах против горцев. Так в первый же свой год пребывания на Кавказе он отличился против кабардинцев, в следующем году был в походе в Дагестане. В кампании 1825 года в Чечне был ранен ружейной пулей в правую руку навылет и контужен в правую ногу, за отличие получил чин поручика и орден св. Владимира 4-й степени с бантом.