Scharnhorst tjänade först i den hannoverska armén, där han, efter att ha utmärkt sig i kriget mot Frankrike 1793, befordrades till major. 1801 ingick han som överstelöjtnant vid artilleriet i preussisk tjänst samt utnämndes till direktör för den preussiska infanteri- och kavalleriofficersskolan. Hans undervisningsreformer gjorde dock att han fick så många fiender att han själv anhöll om förflyttning till annan befattning. År 1803, året efter han adlats, utnämndes han till generalkvartermästarlöjtnant i generalstaben och till överste 1804. Som hertigens av Braunschweig generalstabschef deltog han sedan i kriget mot Napoleon. Efter freden i Tilsit (1807) blev han generalmajor och chef för krigsdepartementet samt var ordförande i kommissionen för reorganisering av militären 1807–1810. I den rollen gjorde han stora insatser för det preussiska försvarsväsendet, särskilt genom att åstadkomma en arméorganisation, som genom den korta tjänstetiden gjorde det möjligt att utbilda ett jämförelsevis stort manskap under den tid, då Preussen traktatsenligt inte fick hålla mer än en mindre beväpnad styrka, det så kallade Krümpersystemet. Den allmänna värnpliktens införande i Preussen var till väsentlig del Scharnhorsts verk. I befrielsekriget 1813, där värdet av hans verksamhet framgick, tjänstgjorde han, utnämnd till generallöjtnant, som Blüchers stabschef. Redan i det första större fältslaget, vid Grossgörschen samma år, blev han dödligt sårad.