Gómez var innvalgt til Representantenes Hus i flere perioder, og i 1926 ble han valgt til ordfører i hovedstaden Havana. I 1928 ble det gjennomført konstitusjonelle endringer som fjernet ordførerembetet, og Gómez dro i eksil til New York City. Han deltok i den væpnede, men mislykkede Rio Verde-ekspedisjonen mot styret til Gerardo Machado, og han ble fengslet før han senere dro i eksil igjen. Under sitt eksil deltok han sammen andre eksilcubanere i arbeid mot Machado-regjeringen.