Le Sénat étant en vacance, Arthur n'avait aucun devoir à Washington et il retourna à New York. Une fois sur place, il se rendit avec Conkling à Albany, où l'ancien sénateur avait espéré une rapide réélection au Sénat afin de désavouer l'administration Garfield. La majorité républicaine à la législature de l'État était cependant divisée sur la question et à la surprise de Conkling et de Platt, ils se retrouvèrent à devoir affronter leurs camarades politiques. Alors qu'il était à Albany le 2 juillet, Arthur apprit que Garfield avait été abattu. Le tireur, Charles J. Guiteau, était un avocat perturbé qui croyait qu'assassiner Garfield convaincrait Arthur de lui offrir un poste dans son administration ; il proclama aux témoins : . Malgré ses prétendus liens avec Arthur, le public apprit rapidement que Guiteau était mentalement instable et n'avait aucun lien avec le vice-président. Plus inquiétant était le manque de clarté du dispositif de succession présidentielle : avec Garfield à l'antichambre de la mort, personne ne savait si quelqu'un pouvait exercer l'autorité présidentielle. De plus, après la démission de Conkling, le Sénat s'était séparé sans élire un président "pro tempore", qui était la personne se trouvant normalement derrière Arthur dans l'ordre de succession. Arthur était réticent à agir en tant que président alors que Garfield était encore en vie et les deux mois suivants connurent une vacance du pouvoir avec Garfield trop faible pour mener ses devoirs et Arthur refusant de les assumer. Au cours de l'été, Arthur refusa de se rendre à Washington et se trouvait à sa résidence de Lexington Avenue lorsqu'il apprit dans la nuit du 19 septembre que Garfield était mort. Le juge de la Cour suprême de New York administra le serment présidentiel dans la maison d'Arthur à le lendemain matin et Arthur monta dans un train pour la capitale fédérale deux jours plus tard.