Han var sønn av den danske generalløytnant Friedrich Philipp Victor von Moltke og tilhørte en av de eldste mecklenburgske uradelsslekter. Familien flyttet i 1805 til Holstein, men ble ruinert da både landeiendommene og boligen i Lübeck ble plyndret av franske styrker under Napoleonskrigene. Moltke vokste derfor opp i vanskelige kår og ble allerede som 11-åring sendt på kadettskole i København.