Assieme al Barone di Breteuil, Carlo cospirò per far deporre il ministro delle finanze francese, il liberale Jacques Necker, fatto che poi avvenne ma che portò alla Presa della Bastiglia il 14 luglio successivo. Su insistenza di Luigi XVI e di Maria Antonietta, Carlo e la sua famiglia lasciarono la Francia tre giorni dopo, il 17 luglio, assieme a molti altri cortigiani, tra cui la duchessa di Polignac, la favorita della regina.