Carnot valittiin lokakuussa 1795 uuteen parlamenttiin ja nimitettiin sen ylähuoneeseen eli vanhojen neuvostoon. Marraskuussa hänestä tuli uuden viisihenkisen direktoriohallituksen jäsen, kun Emmanuel-Joseph Sieyès kieltäytyi hänelle tarjotusta paikasta. Carnot oli direktorion puheenjohtajana 30. huhtikuuta – 29. heinäkuuta 1796 sekä uudelleen 26. toukokuuta – 24. elokuuta 1797. Hänellä oli keskeinen rooli äärivasemmistolaisen François-Noël Babeufin ja tämän johtaman yhdenvertaisten salaliiton nujertamisessa. Carnot ajautui kuitenkin jatkuvasti erimielisyyksiin kahden muun direktorin, Paul de Barrasin ja Jean-François Rewbellin kanssa. Carnot omaksui entistä konservatiivisemman poliittisen linjan ja suhtautui myötämielisesti rojalistien kevään 1797 parlamenttivaaleissa saavuttamaan enemmistöön. Barras tukijoineen syöksi Carnot’n vallasta syyskuussa 1797 tasavallan suojelemiseksi tarkoitetun fructidorin vallankaappauksen yhteydessä. Hänet määrättiin vangittavaksi, mutta hän onnistui piiloutumaan. Hänet tuomittiin poissaolevana maanpakoon ja erotettiin direktoriosta 5. syyskuuta. Hän pakeni rajan yli Sveitsiin ja asettui myöhemmin Nürnbergiin Saksaan.