Han var sønn av kanselliråd og hospitalforstander Georg Mogens Nellemann og Pouline Louise Poulsen. Etter å ha blitt student fra skolen i Slagelse i 1849 ble han i 1855. Deretter studerte han rettshistorie og sivilrett i München, Paris og London fra 1856 til 1858. Tilbake i København ble han ansatt som lektor ved Københavns Universitet og året etter utnevnt til professor. Han var universitetets rektor i året 1874–75.