Den 11. januar 1798 ble Bernadotte utnevnt til Frankrikes ambassadør i Wien, på den tiden det franske diplomatiets viktigste og høyest ansette post. Bernadotte anså utnevnelsen som en besynderlighet, grensende til en fornærmelse, men den bitre pille ble sukret med en høy lønn. Han fikk 144 tusen franc i årslønn og rundelig dekket reisen, med et slag ble formuen hans tredoblet. I Østerrike var bestyrtelsen over Bernadottes utnevnelse stor, og den franske utenriksminister Talleyrand mottok et protestbrev, men Bernadotte med følge var allerede ankommet Wien. Det var vanskelig å få leid et hus for ambassaden, men til sist fikk de Palais Caprara-Geymüller i Wallner Strasse 8. Den 2. mars 1798 var Bernadotte i audiens hos keiser Frans II og gjorde et godt inntrykk på det østerrikske hoffet.