Hertzberg startet sin yrkeskarriere i Det statistiske Centralbureau, der han startet i 1871. I 1873 ble han stipendiat i lovkyndighet. Han ble i 1875 konstituert sekretær i Det statistiske Centralbureau og var fra samme år også ansatt ved Det juridiske fakultet. I 1876 gikk Hertzberg inn i diplomatiet og ble attaché ved Sverige-Norges legasjon i Paris. Allerede året etter, i 1877, ble Hertzberg utnevnt til professor i statsøkonomi og statistikk, en stilling han hadde til 1886.