В 1836—1838 годах Вранкен прошёл курс наук в Николаевской академии Генерального штаба, за успехи в науках был произведён в поручики. По окончании академии был зачислен в Генеральный штаб и в 1840—1847 годах служил на Кавказе. Здесь он неоднократно принимал участие в походах против горцев и заслужил несколько орденов. Командовал 2-м батальоном Апшеронского пехотного полка.