Delvis på grunn av dette fikk Adams bare 34 av de 69 stemmene i presidentvalget i 1789. Da dette var det nest største antallet, ble han utropt til visepresident. Hans tid som visepresident ble farget av mistro blant mange av hans kolleger, særlig av dannelsen av to veldefinerte politiske grupper, Føderalistpartiet (som Adams ledet sammen med Alexander Hamilton), og Det demokratisk-republikanske parti.