Князь Александр Борисович был записан на гражданскую службу в главный архив Коллегии иностранных дел. В 1807 году перешёл на военную службу в лейб-гвардии Егерский полк, позднее поступил в лейб-гвардии Конный полк. 6 июля 1808 года в возрасте 16 лет был произведён из штандарт-юнкеров в корнеты. Вместе с отцом и братьями Андреем и Николаем участвовал в Отечественной войне 1812 года и Заграничных походах 1813—1814 годов. Во время сражения под Витебском Голицын был ранен и более недели залечивал раны в Смоленске в доме купца третьей гильдии Петра Ивановича Медосытова. При Бородино князь Александр Борисович состоял ординарцем при М. И. Кутузове. Награждён орденами Святой Анны 2 степени и Святого Владимира 4 степени с бантом. За храбрость, проявленную в Кульмском сражении, ему были пожалованы алмазные знаки к ордену Святой Анны, а за сражение при Фер-Шампенуазе — золотая шпага с надписью «За храбрость».