1838'de Orbeliani, Rus askerliğine katıldı ve Nijniy Novgorod Dragoon alayında görev yaptı. Askerî kariyerinin çoğu Kafkasya Savaşı sırasında asi dağlık kabilelere karşı mücadelede geçti. 1855'te Gürcü Grenadier Alayı'nın komutanlığına getirildi ve 1860'ta tümgeneralliğe terfi etti. 1858-1863 yılları arasında Kuzey Kafkasya'da Kabarda ve Terek'in huzursuz bölgelerinde komutan olmak da dâhil olmak üzere çeşitli idari ve askerî görevler üstlendi. Daha sonra kariyerinde, köylü konseyi üyesi olarak görev yaptı ve hakem olarak çalıştı.