I 1826 ble Holmboe utnevnt til lektor ved Det Kongelige Frederiks Universitet; Niels Henrik Abel ble også vurdert til stillingen, men var ute og reiste i Europa på den tiden. I 1834 rykket Holmboe opp til professor ved universitetet, og han underviste også i matematikk ved Den Militære Høiskole fra 1826 frem til sin død. Blant hans senere publikasjoner finner man (1833), (1834), og (1849). miniatyr|Christopher Hansteen, professor i astronomi og anvendt matematikk ved Det Kongelige Frederiks Universitet, var kritisk til Holmboes abstrakte lærebøker i matematikk. Ved universitetet møtte Holmboe igjen Christopher Hansteen, som hadde blitt utnevnt til professor i astronomi og anvendt matematikk 1816. I 1835 ga Hansteen ut sin egen lærebok i matematikk, . Denne var mere praktisk orientert enn Holmboes bøker og kom som en reaksjon mot Holmboes bøker og undervisningsstil. Holmboe anmeldte boken for , og i anmeldelsen frarådet han latinskolene å ta den i bruk. Dette førte til et offentlig ordskifte der flere andre matematikere bidro, og det er blitt hevdet at dette er den første debatten om skolebøker i Norge.