Compton fikk en PhD doktorgrad ved Princeton University i 1916 basert på et arbeid om eksperimentell bestemmelse av elektronfordelingen i atomer ved spredning av røntgenstråler. Etter et år som lærer i fysikk ved University of Minnesota, ble han ansatt ved hvor han var frem til 1919. Da mottok han et stipendium som gjorde det mulig for han å studere i utlandet. På den måten kunne han det følgende året arbeide ved Cavendish Laboratory tilknyttet Cambridge University i England. På den tiden var dette det ledende laboratorium innen atomfysikk og kjernefysikk i verden. Der arbeidet han sammen med George Paget Thomson og undersøkte spredning og absorpsjon av gammastråling i forskjellige materialer. I perioden 1920–23 var han professor ved Washington University i St. Louis og leder for fysikkavdelingen. Fra 1923 var han tilsatt ved University of Chicago hvor han overtok den ledige stillingen etter Robert Millikan. Han ble der til 1945 da han dro tilbake til Washington University hvor han var utnevnt til rektor (Chancellor).