В 1844—1845 годах участвовал в Кавказской войне — адъютантом генерала Лидерса. Ротмистр Яков Петрович Бальмен погиб при отступлении из Дарго в Даргинском походе (тело его, несмотря на обещание крупной награды, не было найдено).