Joubertin isä oli asianajaja. Hän karkasi kotoa 15-vuotiaana liittyäkseen armeijan tykistöön, mutta isä pakotti hänet palaamaan, minkä jälkeen hän opiskeli lakia Lyonin ja Dijonin yliopistoissa. Vallankumouksen puhjettua vuonna 1789 Joubert liittyi Ranskan kansalliskaartiin kersanttina, ja syksyllä 1791 hän siirtyi armeijan Ainin vapaaehtoispataljoonaan. Sodan puhjettua vuonna 1792 hänet ylennettiin upseeriksi ja siirrettiin pian Italian-armeijaan. Puolustaessaan erästä reduttia Col de Tenden solassa syyskuussa 1793 hän jäi vihollisen sotavangiksi, mutta vapautui vuoden lopussa. Hänet ylennettiin 1794 pataljoonankomentajaksi ja 1795 prikaatinkomentajaksi. Osallistuttuaan Loanon taisteluun hänet ylennettiin vuoden 1795 lopussa prikaatikenraaliksi.