Roons familie var av flamsk opprinnelse og faren var offiser i den prøyssiske armé, men døde i fattigdom under den franske okkupasjonen, og unge Roon vokst opp i kummerlige kår hos sin bestemor i et land herjet av frigjøringskrigen mot Napoleon.