Od 4. srpna 1793 byl členem Výboru pro všeobecnou bezpečnost a zde zodpovídal za otázky armády (vykonával de facto funkci ministra války). V této funkci měl zásadní zásluhy na zvýšení úderné síly armády. Zcela reorganizoval armádu a odvodní systém zavedením branné povinnosti (23. srpna 1793) každého muže ve věku 18 až 25 let (Levée en masse), provedl čistky v důstojnickém sboru (kromě šlechticů vyřadil všechny důstojníky, kteří neuměli číst a psát), nařídil promíchání dobrovolníků s vojáky, prováděl četné inspekční cesty a založil topografickou kancelář, která byla určitým předchůdcem generálního štábu. Robespierrova vláda teroru však byla proti jeho přesvědčení a proto se podílel na jeho pádu (27. července 1794). Přestože na něm lpělo odium předchozí úzké spolupráce s Robespierrem, sám nebyl souzen a naopak pro svou odbornost byl již 26. září 1795 zvolen členem Direktoria, kde mu byla opět svěřena agenda armády. Tento post zastával dva roky, ale po převratu 18. fructidoru (4. září 1797) abdikoval a byl nucen emigrovat do tehdy ještě nezávislého Švýcarska, kde krátce žil v Ženevě, poté pobýval v Bavorsku (Augsburg, Norimberk). Do Francie se vrátil až po 18. brumairu VIII (9. listopadu 1799). Napoleon Bonaparte jej jmenoval 2. dubna 1800 ministrem války, ale po několika měsících Carnot odstoupil a zastával jen nevýznamný post jako člen tribunátu. Tam hlasoval proti doživotní konzulské funkci pro Napoleona a později i proti zřízení císařství a stáhl se z politického života.