J.P. Jacobsen ble født i Thisted i Jylland som den eldste av fem barn av en framstående handelsmann. Han gikk på skole i København og ble opptatt som student ved Københavns universitet i 1868. Allerede som gutt viste han talent for vitenskap, især for biologi, og han skrev dikt i all hemmelighet fra ni-årsalderen. I 1870 valgte han botanikk som fagfelt. Han ble med i en vitenskapelig gruppe i København som skulle rapportere om floraen på de danske øyene Anholt og Læsø.