Né durant l'exil de son père en Hongrie, Arsène effectue sa scolarité en France, au lycée Louis-le-Grand, avant d'intégrer l'école de Saint-Cyr. Devenu officier de la cavalerie française, il participe à différentes campagnes militaires, en Afrique du Nord et en Chine notamment. Il poursuit ensuite sa carrière dans les cavaleries russe et serbe.