Han var sønn av Wilhelm Grimm og hans hustru Dorothea. Grimm var elev hos Leopold von Ranke. Fra 1841 bodde han i Berlin der han var omgangsvenn med Bettina von Arnim. I 1859 giftet han seg med dennes datter Gisela von Arnim.