Fra 1772 bega Hardenberg seg ut på sin dannelsesreise. Reisen førte ham til riksfriherren Stein zu Nassau og flere andre tyske fyrstedømmer. Han studerte saker ved rikskammerdomstolen i Wetzlar, riksdagen i Regensburg og sannsynligvis også rikshoffråden i Wien. Studiene overbeviste ham om den politiske avmakt til de små tyske fyrstestatene, og han så storfyrstenes innflytelse over styringen. Han fant den gjeldende riksforfatningen som meget svak.