Holmboe bestod den obligatoriske forberedende eksamen («andeneksamen») med utmerkelse og deltok også på ekstraforelesninger med matematikkprofessor Søren Rasmusen. I 1815 ble han utnevnt til amanuensis under universitetslektor Christopher Hansteen, som behøvde hjelp med astronomiske utregninger. Holmboe holdt også forelesninger ved et nyopprettet handelsinstitutt. I 1818 ble Holmboe matematikklærer ved katedralskolen i Christiania. Skolens rektor Jacob Rosted hadde først tilbudt stillingen til Holmboes bror Christopher Andreas, som også hadde studert matematikk, men han valgte isteden å konsentrere seg om filologi. I sin undervisning lot Bernt Michael Holmboe seg inspirere av Joseph Louis Lagrange.