Назначенный в 1833 г. адъютантом к начальнику артиллерии отдельного Кавказского корпуса генерал-лейтенанту Козлянинову, Яфимович состоял при нём около семи лет, причём неоднократно участвовал в делах против горцев, за которые в 1836 г. получил орден Св. Владимира 4-й степени, а в 1838 году был произведён в капитаны. Три года спустя он был назначен командиром батарейной № 1 батареи Кавказской гренадерской артиллерийской бригады, с оставлением в списках гвардейской артиллерии. В том же году за храбрость и распорядительность, выказанные в деле под аулом Черкеем, он был награждён орденом Св. Станислава 2-й степени с императорской короной. Произведённый 22 августа 1842 г. в полковники, Яфимович был отчислен от гвардии и через два года назначен командиром 18-й артиллерийской бригады; этой бригадой он командовал в течение десяти лет и в это время был произведён 6 декабря 1851 г. в генерал-майоры и награждён за 25-летнюю службу в офицерских чинах орденами Св. Георгия 4-й степени (в 1852) и Св. Станислава 1-й степени (в 1853 г.) Затем Яоколо года он состоял для особых поручений в штабе инспектора всей артиллерии, после чего 8 декабря 1855 г. был назначен инспектором пороховых заводов. В следующем году был награждён орденом Св. Анны 1-й степени с мечами, а 30 августа 1860 г. произведён в генерал-лейтенанты.