Da demokratenes landsmøte skulle nominere sin presidentkandidat til presidentvalget i 1932, hadde Garner støtte fra delegatene fra Texas og California, og ble således en av Franklin D. Roosevelts tøffeste motstandere. Da det ble klart at Roosevelt ville bli nominert, lyktes det Garner å kjøpslå med Roosevelts støttespillere om å bli hans visepresidentkandidat. Roosevelt og Garner vant valget, og de ble også gjenvalgt til sine respektive embeter i 1936. Garner var ikke særlig fornøyd med visepresidentens muligheter til å påvirke, og han har sagt at embetet var «ikke verdt en bøtte med varmt piss». Han beskrev sin egen rolle å være presidentens «reservedekk».