Vuoden 1973 alkupuolella Ante Gotovina liittyi Ranskan muukalaislegioonaan St. Nicholasin linnoituksessa Marseillessa. Hänestä tuli legioonalainen Andrija Grabovac (värväytyjä nro 151408), joka oli syntynyt 10. joulukuuta 1953. Näin alaikäinen Gotovina muuttui täysi-ikäiseksi. Pau suoritetun peruskoulutuksen jälkeen hän pääsi muukalaislegioonan 2. laskuvarjojääkärirykmenttiin (2e REP), jolla on kovatasoinen ja legendaarinen maine useista eri sodista. Tämän jälkeen hän pääsi eliittiryhmään "Commandos de Recherche et d'Action en Profondeur" (CRAP), joka on nykyiseltä nimeltään "laskuvarjojääkärien kommandoryhmä" (GCP). Tässä kommandojoukossa hän tutustui Dominique Erulin'iin, eversti Philippe Erulinin veljeen, joka tuli myöhemmin olemaan hänen ystävänsä ja toverinsa tulevissa tehtävissä. Seuraavien vuosien aikana Gotovina eli Andrija Grabovac otti osaa muukalaislegioonan sotilastehtävissä Djiboutissa, Kolwezissa ja Norsunluurannikolla. (Gotovina siis palveli samaan aikaan, samoissa paikoissa ja samassa rykmentissä kuin suomalainen Kyösti Pietiläinen.) Hänestä tuli myös eversti Erulin'in autonkuljettaja.