Som følge av Tysklands okkupasjon av Frankrike under den andre verdenskrig, flyktet Gary til England og under general Charles de Gaulle tjenestegjorde han med de frie franske styrker på det europeiske fastlandet og i Nord-Afrika. Som pilot deltok han i over 25 suksessfulle tokt. Det var på denne tiden at han endret sitt navn til Romain Gary. Han ble dekorert for mot i krigen, mottok flere medaljer, blant annet og utnevnt som kommandør av Æreslegionen, . I 1945 utga han sin første roman, . Umiddelbart etter å ha fullført tjenestetiden i krigen, arbeidet han i det franske diplomatiet i Bulgaria og Sveits. I 1952 ble han generalkonsul i Los Angeles og i denne posisjonen ble kjent med Hollywood.