Etter examen artium 1862 fra Christiania katedralskole tok han reserveoffiser-skolen i 1864 og var ulønnet secondløytnant i Throndhjemske Infanteribrigade 1864–69. Han ble cand.med. den 29. mai 1869 ved Det Kongelige Frederiks Universitet og jobbet ved flere sykehus i Kristiania, som Fødselsstiftelsen og Rikshospitalet. Han foretok også flere studiereiser og kunne motta en dr.med. i 1875 på avhandlingen . Dette var første avlagte doktorgrad i medisin ved Det Kongelige Frederiks Universitet siden 1842, da hans far Frans Christian Faye disputerte. Anton bidro heretter med forelesninger om medisinens historie, samt fortsatte sin militære karriere, først i et av jægerkorpsene 1875–81. Han ble innvalgt i Det Norske Videnskaps-Akademi i 1886. For Den Norske Turistforening var han i styret 1887–1907. Ridder av St. Olavs Orden og kommandør i 2. klasse i 1904. Den svenske Vasaordenen mottok han 1901, også der kommandør i 2. klasse.