Stein trat 1780 in den preußischen Staatsdienst ein. Nach Veröffentlichung der "Nassauer Denkschrift" für eine moderne Verwaltung wurde er 1807 von König Friedrich Wilhelm III. zum Staatskanzler ernannt und leitete die Preußischen Reformen ein. Wegen Aufstandsplänen gegen Napoleon bereits 1808 wieder entlassen, wurde er 1812 vom russischen Kaiser Alexander I. zum Berater ernannt und vermittelte 1813 den "Vertrag von Kalisch" zur Befreiung von der napoleonischen Fremdherrschaft. Mit der Gründung der Monumenta Germaniae Historica 1819 leistete er darüber hinaus einen wichtigen Beitrag zur Entwicklung der deutschen Mediävistik. Stein gehört zu den bedeutendsten Persönlichkeiten der deutschen Geschichte.