Fils d’Adèle Elisabeth Mac Donald de Tarente et du comte d’Empire Alphonse Perregaux, Perregaux a d’abord été officier de cavalerie. Ayant débuté comme simple soldat, il a participé aux siège de Constantine de 1836, de 1837 et des Portes de Fer, et terminé comme lieutenant au hussards , puis dans les spahis au régiment d’Afrique, stationnés à Bône. Noté par ses supérieurs pour sa « conduite légère et insolvabilité », il a quitté les spahis, en , parce qu’il était incapable de régler une note de à un marchand de vin bordelais.