Et Pulitzer-stipend betalte skolepenger for ham ved Columbia College, en avdeling av Columbia University. Her tok han blant annet et kurs i vitenskapshistorie, forelest av Frederick Barry (1876-1943). Barry var den første professoren i matematikkhistorie i USA. Boyer tok laveregradseksamen i matematikk i 1928. Han underviste så ved Brooklyn College, mens han fortsatte utdannelsen ved Columbia. I 1929 fikk han mastergrad fra Columbia. Professor Barry anbefalte ham da å starte på en doktorgrad i vitenskapshistorie, et råd han fulgte.