Podczas konwencji republikanów przed wyborami w 1880 roku, nominację prezydencką uzyskał kandydat radykalnego skrzydła, James Garfield. Aby zjednoczyć podzieloną partię, stanowisko wiceprezydenta zaproponował Arthurowi. Wbrew stanowisku Concklinga, ten postanowił przyjąć nominację. Pełniąc urząd wiceprezydenta, w większości zgadzał się z linią programową Garfielda, jednak nominacja Williama Robertsona na poborcę ceł w Nowym Jorku spowodowała, że Arthur przestał być lojalny wobec prezydenta. 2 lipca 1881 roku Charles J. Guiteau dokonał zamachu na Garfielda, przez co Arthur był przekonany, że w ciągu kilku godzin lub dni będzie musiał objąć najwyższy urząd w państwie. 19 września o północy otrzymał informację, że prezydent zmarł i niespełna dwie godziny później złożył przysięgę prezydencką, w obecności sędziego Sądu Najwyższego stanu Nowy Jork Johna Brady’ego. Uroczystą przysięgę złożył trzy dni później przed prezesem Sądu Najwyższego w Waszyngtonie. Przez te trzy dni Arthur nie ustępował jednocześnie z fotela przewodniczącego Senatu, co gwarantowała mu Konstytucja, mówiąca że wiceprezydent jest jednocześnie przewodniczącym Izby Wyższej.