イタリアにてシュレール指揮下のフランス軍が無残な状況であることを見たジョゼフとリュシアンは、シェイエスに掛け合いベルナドットを陸軍大臣に任命させる。ベルナドットはしばらく躊躇したのち、7月2日から任務についた。実質的にフランス軍のトップとなったベルナドットは、連敗している軍の立て直しに精力的に取り組んだ。彼はまず官僚機構の能率化に取り組み、いかなる問い合わせに対しても24時間以内に回答を行うよう徹底させる。そして政治的理由によって遠ざけられた将軍たちを復職させた。兵の士気を高めて規律を遵守させるため、食料や衣服そして賃金が滞りなく行き渡るよう計らった。また新聞に熱烈な布告を投稿し、愛国心が揺り動かされた多くの古参兵が再度軍務に志願するようになった。加えてベルナドットは医療サービスに大きな関心を寄せ、陸軍病院の視察などその改善策を多く実行している。当時総裁であったバラスとは、マッセナがイタリアにて戦勝を得たのも、ナポレオンがマレンゴの戦いやドイツにおける戦役で成功を収められたのも、ベルナドットが整備した人員と物資に依るところが大きいと後年述べている。一方、ベルナドットはしばしば他の閣僚や総裁と対立している。兵士に払う給料も補給のための金も無いと言った財務大臣に対しサーベルを抜いて脅しをかけた事もあった。他方で総裁たちは彼がイギリス軍とロシア軍のオランダ上陸を防ぐためブリューヌ将軍に適切に兵の補強を行った模様に感銘を受けている。しかしながら、シェイエスとデュコの2総裁は、ベルナドットが急進的ジャコバン派に対し共感を寄せていると批判し、彼が熱狂的な人気を得ている様を警戒した。「政府を仕切っているのは陸軍大臣だ」「自分のことを鷲と思っている鶫がいる」とはこの頃のシェイエスの弁である。同年9月14日、現行憲法の破棄を目的としたクーデターを実行するにあたり、ベルナドットの存在を障害と思ったシェイエスらの策謀によって彼は陸軍大臣の任を解かれてしまう。