בשנים 1881–1883 כיהן דייוויס כנשיא הזמני של הסנאט. בכך הוא היה לראשון בסדר הירושה של נשיא ארצות הברית, בשל העובדה שתפקיד סגן הנשיא לא היה מאויש לאחר רצח הנשיא ג'יימס גרפילד. בבחירות של 1882 הוא לא התמודד לבחירה מחדש לסנאט ובחר לפרוש מהחיים הפוליטיים לאחר תום כהונתו ב-1883.