Orbeliani vietti valtaosan sotilasurastaan Kaukasian sodassa taistelemassa kapinallisia vuoristolaisia vastaan. Hän toimi lyhyen aikaa Nevan jalkaväkirykmentissä Vilnassa rangaistuksena osallistumisestaan vuoden 1832 salaliittoon. Palattuaan Kaukasukselle vuonna 1838 hän taisteli pääosin Dagestanissa ja nousi kenraaliksi vuonna 1846. Apšeronin jalkaväkirykmentin komentajana Orbelianilla oli keskeinen rooli hyökkäyksessä dagestanilaiseen Gergebilin linnoutukseen vuosina 1847–1848 ja hänet ylennettiin kenraalimajuriksi vuonna 1848. Seuraavien vuosien aikana hän hallinnoi Avaristanin ja Tšar-Belakanin rauhattomia piirikuntia. Hän torjui Pohjois-Kaukasuksen Venäjän vastaista taistelua johtaneen Šamilin hyökkäyksen, saavutti useita voittoja kapinallisista Tšar-Belakanissa vuonna 1853 ja sai ylennyksen kenraaliluutnantiksi. Vuonna 1855 hänestä tehtiin etu-Kaspian joukkojen komentaja ja hänet ylennettiin kenraaliadjutantiksi vuonna 1857. Varakuninkaan neuvoston puheenjohtajaksi hänet nimitettiin samana vuonna, ja kolme vuotta myöhemmin hänestä tuli Tbilisin kenraalikuvernööri, joka toimi käytännössä varakuninkaana vuonna 1862. Orbeliani ylennettiin edelleen jalkaväenkenraaliksi vuonna 1864 ja hän sai paikan valtioneuvostosta vuonna 1866. Vuonna 1871 keisarikunnan hallinto järjesti Tbilisissä juhlat Orbelianin sotilasuran 50-vuotispäivän kunniaksi, ja niissä vieraili tsaari Aleksanteri II, joka myönsi kenraalille Pyhän Andreaan ritarikunnan kunniamerkin, valtakunnan korkeimman arvonimen.