В 1842 году, будучи штабс-капитаном, барон Розен по высочайшему повелению предан суду за то, что, испросив разрешение Николая I, женился 18 февраля 1842 года на дочери генерал-лейтенанта В. Д. Иловайского Евдокии Васильевне (20.07.1820—05.07.1842), не имея на то законного свидетельства её отца. По высочайшей конфирмации 25 июля 1842 года переведён майором в Апшеронский пехотный полк и лишён звания флигель-адъютанта. 13 марта 1843 года зачислен по армейской кавалерии, с назначением состоять при Кавказском линейном казачьем войске. На Кавказе ему неоднократно, начиная с 1837 года, доводилось принимать участие в боях с горцами. С 19 августа 1843 года командовал линией Военной Грузинской дороги.