I 1816 ble han valgt som visepresident for James Monroe og gjenvalgt i 1820. Han ttjenestegjorde dermed som visepresident i åtte år fra 4. mars 1817 til 4. mars 1825. Tompkins døde bare 99 dager etter at han avsluttet embedet sitt som visepresident.