Herman Grimm studerte jus og filologi. Etter studiene hadde han et opphold i Leipzig. I 1870 kvalifiserte han seg som universitetslærer i Berlin. Et høydepunkt i yrkeslivet var utnevnelsen til en lærestol i kunsthistorie i Berlin i 1873.