В 1858—1859 годах Чемерзин был командирован на Кавказ в распоряжение графа Евдокимова и зимой принимал участие в походах против горцев в Чечне. В 1859 году вёл осадные работы против Ведено и участвовал в штурме этого селения. За боевые отличия на Кавказе награждён орденом св. Владимира 4-й степени с мечами и бантом.