Trong nỗ lực tái tranh cử, sự chống đối từ những người Liên bang và những người buộc tội từ Đảng Cộng hóa dẫn tới thất bại của Adams đối với người bạn cũ của ông Thomas Jefferson, và ông đã nghỉ hưu ở Massachusetts. Ông cuối cùng đã bắt đầu lại tình bạn với Jefferson bằng cách khởi đầu một giao thiệp mà đã kéo dài mười bốn năm. Ông và vợ sinh ra một gia đình của nhũng chính trị gia, nhà ngoại giao và những nhà sử học bây giờ được gọi là ‘’gia đình chính trị Adams’’, mà bao gồm con trai của họ John Quincy Adams, tổng thống thứ sáu của Hoa Kì. John Adams chết ngày 4 tháng 7 năm 1826-dịp kỉ niệm lần thứ năm mươi của việc thông qua Tuyên ngôn độc lập Hoa Kỳ- vài giờ sau cái chết của Jefferson. Những khảo sát của các nhà sử học và học giả đã ưu tiên xếp hạng chính quyền của ông.