В декабре 1857 г. переведён адъютантом к Кутаисскому генерал-губернатору барону Врангелю с причислением, в чине капитана, к Грузинскому гренадерскому полку. С этого времени собственно и начинается активная боевая деятельность Старосельского, так как до того он лишь в 1854 г. находился в составе войск, охранявших Петербургскую губернию. С назначением барона Врангеля командующим войсками в Прикаспийском крае, Старосельский отправился вместе с ним в Темир-Хан-Шуру и в июне 1858 г. находился в отряде, возводившем укрепления Буртуная. В 1859 г. под личным начальством главнокомандующего князя Барятинского было сформировано несколько отрядов для одновременного действия с разных сторон против Шамиля. Наиболее важные и трудные операции выпали на долю отряда барона Врангеля, при котором находился и Старосельский. Переодоливая высокие горные хребты, совершив знаменитую Сагрытлоскую переправу через Андийское Койсу и преследуя неприятеля, отряд подошел к Гунибу, последнему оплоту Шамиля, который после переговоров сдался в плен на почётных для него условиях.