ההתנגדות בקונגרס פגעה במדיניות החוץ של אדמס. הוא הגיע להסכמי סחר עם מספר מדינות, כמדינות סקנדינביה, פרוסיה ואוסטריה, אולם הקונגרס מנע ממנו מלשלוח נציגים לוועידת מדינות אמריקה הלטינית.
עזיבתו.
אדמס עזב את תפקידו ב-4 במרץ 1829, לאחר הפסד בבחירות לאנדרו ג'קסון. הוא לא נכח בהשבעתו של ג'קסון, והיה אחד מחמישה נשיאים שלא עשו כן (אביו, אנדרו ג'ונסון, ריצ'רד ניקסון ודונלד טראמפ).
בחירות 1828.
קליי ואדמס הקימו מפלגה חדשה, המפלגה הלאומית הרפובליקנית, אך זו לא קנתה לה אחיזה בקרב המדינות השונות ולא האריכה ימים.
לאחר הפסדו ב-1825, אנדרו ג'קסון התפטר מהסנאט והתכונן במשך ארבע שנים, בעזרת חבריו בקונגרס, לנצח את אדמס בבחירות הבאות. אף מועמד לא ניהל מסע בחירות, אולם תומכיהם ארגנו מאמרים משמיצים בעיתונות. במהלך מערכת הבחירות העיתונות האשימה את אשתו של ג'קסון בביגמיה. היא מתה כמה שבועות לאחר הבחירות, וג'קסון אמר שאולי יסלח לאלו שתקפו אותו, אך לעולם לא יסלח לאלו שתקפו את אשתו.
בבחירות 1828 נחל אדמס מפלה צורבת, בידי יריבו אנדרו ג'קסון שהקים בינתיים מפלגה חדשה - המפלגה הדמוקרטית. אדמס זכה במדינות בהן זכה אביו ב1800: ניו אינגלנד, ניו ג'רזי ודלאוור, חלקים מניו יורק ורוב מרילנד. אולם הפעם זכה ג'קסון ברוב מוחלט בחבר האלקטורים, ב-178 אלקטורים לעומת 83 לאדמס, ואדמס וקליי לא היו יכולים לגבור עליו בשנית. אדמס כמו אביו כיהן רק תקופת כהונה אחת.
קריירה בקונגרס (1830–1848).
אדמס שקל לפרוש מהחיים הציבוריים לאחר תבוסתו ב-1828, והוא נפגע בגלל התאבדות בנו, ג'ורג' וושינגטון אדמס, ב-1829. אולם הוא החליט לנסות להיבחר לבית הנבחרים של ארצות הברית ב-1830. הוא היה הנשיא הראשון ששירת בקונגרס לאחר סיום כהונתו, אחד משניים (אנדרו ג'ונסון שירת בסנאט). הוא נבחר לתשע כהונות, וכיהן שבע עשרה שנים, מ-1831 ועד למותו.
אדמס ניסה להיבחר לתפקיד מושל מסצ'וסטס ב-1833 על מצע שהתנגד לתנועת הבונים החופשיים. המושל הרפובליקני הלאומי פרש ואדמס התמודד מול שלושה מועמדים. מועמד הרפובליקניים הלאומיים השיג 40% מהקולות ואדמס 29%. ללא רוב, המועצה המחוקקת נאלצה להכריע, ואדמס תמך במועמד הרפובליקניים הלאומיים שנבחר.
בנוגע למכס 1828, היה מעורב בפשרה שסיימה את "משבר זכות הביטול", בו איימה קרוליינה הדרומית לפרוש מהאיחוד אם לא יותר לה לבטל חוק מכס. אדמס היה מעורב בהקצבת כספים לסמית'סוניאן.
מינויים לוועדות.
בקונגרס, עמד בראש הוועדה לסחר וייצור, הוועדה לנושאי האינדיאנים, והוועדה לנושאי חוץ.
עבדות.
כמתנגד לעבדות, השתמש אדמס בתפקידו החדש בקונגרס כדי להילחם מולה. ב-1836, עבר בקונגרס חוק שמנע שליחת עצומות כנגד העבדות. אדמס התנגד לחוק ונאם כנגד העבדות בבית הנבחרים.
החוק מנע מאדמס להגיש לקונגרס עצומות כנגד העבדות, אולם הוא הביא אותן בכל מקרה: עצומה מאזרח של ג'ורג'יה שטען שהמשך העבדות יוביל לפילוג.
העצומה הכעיסה את יריביו בקונגרס, שניסו להוביל להחלטת גינוי כלפיו. הדיון בנושא הוביל את אדמס לנאום בנושא העבדות, ולתקוף אותה בתמיכה בביטולה. אדמס, שידע שיזוכה, החליט לנאום כנגד בעלות העבדים וסחר העבדים. הוא החליט שאם יגנו אותו, הוא יתפטר וינסה שוב להיבחר לנשיאות. יריביו הבינו שהוא מתמרן אותם, ולכן ניסו לבטל את הדיון. אדמס מנע זאת והדיון המשיך. הוא טען שבעלי העבדים אינם מוסריים, ודרש את סיום העבדות. לאחר שבועיים, נערכה הצבעה במהלכה זוכה אדמס.
אף על פי שלא גינו אותו, בית הנבחרים התייחס לנושא העצומות לאחר מכן. אדמס טען שוב שהזכות ליצור עצומות היא זכות אוניברסלית. הוא טען שלבית הנבחרים אין זכות להגביל את עצמו בדיונים, אולם החוק נותר על כנו.
הנאומים הובילו לדיון נרחב בזכות לדיון ובמוסריות העבדות. אדמס התגאה בכך שייזכר בדרום כאויב העבדות הגדול ביותר.
ב-1844, עמד בראש ועדה לרפורמה בקונגרס, ושוב ניסה לבטל את חוק העצומות. במשך חודשיים השיג תמיכה בנושא, אבל ההתנגדות הצפונית הובילה לכך שהחוק נותר על כנו. הוא התנגד לנציגים ולסנאטורים הצפוניים, בעיקר לסטיבן דאגלס, שרצו להשיג תמיכה בדרום בעזרת חנופה לבעלי העבדים. התנגדותו לעבדות הפכה אותו, יחד עם הנרי קליי, למתנגדים חריפים לסיפוח טקסס ולמלחמת ארצות הברית–מקסיקו. הוא חזה שהמלחמה תוביל למלחמת אזרחים. לאחר שנבחר מחדש, טען שעליו להביא ליום בו תבוטל העבדות.
אדמס טען שפשרת מיזורי בוגדת ברוח האמריקנית.
ב-1841, הצטרף אל ייצוג העבדים במשפט ארצות הברית נגד לה אמיסטאד. אדמס טען בפני בית המשפט העליון לטובת העבדים שמרדו בספינה הספרדית שלהם. הוא נאם במשך ארבע שעות, והצליח להביא לשחרור השחורים. בין יריביו היו הנשיא מרטין ואן ביורן. כעבור כמה שנים, המשיכו הספרדים ללחוץ על האמריקנים להעניק להם פיצויים על הספינה. הדרומיים תמכו בכך, אולם למרות תמיכה מצד הנשיאים הדמוקרטים ג'יימס פולק וג'יימס ביוקנן, לא הוענקו פיצויים.
תצלום.
בתחילת שנות הארבעים של המאה התשע עשרה החלו פוליטיקאים להצטלם. תמונתו של אדמס מ-1843 היא הוותיקה ביותר של נשיא האמריקני (לשעבר) ששרדה. התמונה נמצאת בסמית'סוניאן
הגשר בין המהפכה למלחמת האזרחים.
אדמס נפגש עם אברהם לינקולן במהלך הכהונה של האחרון בבית הנבחרים, מ-1847 עד למותו של אדמס. ולכן אדמס נחשב לדמות מגשרת בהיסטוריה האמריקנית שהכירה גם את האבות המייסדים של ארצות הברית וגם את לינקולן.
משבר זכות הביטול.
פרט להתנגדותו לעבדות ולאיסור על עצומות כנגדה, הוא השיג כמה הישגים אחרים בכהונתו בקונגרס. מעט לאחר כניסתו לתפקיד, חוק המכס של 1828 כמעט הוביל למלחמת אזרחים כשקרוליינה הדרומית איימה לבטל את החוק. הנשיא אנדרו ג'קסון הוסמך להשתמש בכוח כדי לאכוף את החוק. אדמס הגיע לפשרה בנושא.
קידום המדעים.
אדמס הפך לכוח מוביל בתמיכה בקידום המדעים. כנשיא, הציע הקמת מצפה כוכבים לאומי, ללא הצלחה. ב-1829, לאחר מותו של המדען הבריטי ג'יימס סמית'סון, הוא הותיר את הונו לקידום הידע, ודרש בצוואתו שאם אחיינו ימות ללא יורשים, רכושו יעבור לממשלת ארצות הברית לצורך קידום ידע. לאחר מות אחיינו ב-1835, יידע הנשיא אנדרו ג'קסון את הקונגרס על קבלת הכסף, שהיה שווה ערך ל-75,000,000 דולרים כיום. אדמס הבין שהסכום יכול להגשים את חלומו לבנות מוסד לאומי למדעים. הוא תמך בהקמת הסמית'סוניאן. בנוסף תמך בתצפיות אסטרונומיות ובהקמת מצפה כוכבים לאומי. ב-1825 חתם על חוק להקמת מצפה כוכבים לאומי לפני עזיבת תפקידו. ב-1830 הוביל להקמת מצפה הכוכבים האמריקני.
בנוגע להקמת הסמית'סוניאן, הכסף הושקע באיגרות חוב, ונעלם במהירות. לאחר עימות בקונגרס, הצליח אדמס להחזיר את ההשקעה. הקונגרס רצה להשתמש בכסף למטרות אחרות, אולם אדמס הצליח לשכנע אותו לשמור את הכסף להקמת הסמית'סוניאן. בנוסף הייתה השאלה האם לממשל הייתה הסמכות לקבל את המתנה.
הפרויקט להקמת אוניברסיטה לאומית לא הושלם במהלך חייו. האוניברסיטה האמריקנית הוקמה רק ב-1893.
מותו.
ב-1846, סבל משבץ ששיתק אותו באופן חלקי. לאחר כמה חודשי מנוחה, הוא השתקם וחזר לקונגרס לתשואות החברים. ב-21 בפברואר 1848, כשבית הנבחרים שוחח על מתן כבוד לקצינים ששירתו במלחמת ארצות הברית–מקסיקו, היה המתנגד היחיד. מיד לאחר מכן התמוטט, וסבל מדימום במוחו. כעבור יומיים, ב-23 בפברואר, מת כשאשתו ובנו לצדו. הוא מת ב-7:20 בערב. חבר הקונגרס אברהם לינקולן היה האחראי ללוויה.
לאחר שנקבר בבית הקברות של הקונגרס, הועבר לחלקת הקבר המשפחתית בקווינסי. לאחר מותה של לואיזה ב-1852, העביר בנו צ'ארלס את הגופות ליד גופותיהם של ג'ון ואביגייל.
חייו האישיים.
לג'ון וללואיזה היו שלושה בנים ובת. בתם לואיזה נולדה ב-1811 ומתה ב-1812, ברוסיה. בנם נקרא ג'ורג' וושינגטון אדמס (1801–1829), וגם הוא וגם ג'ון אדמס השני (1803–1834) מתו בגיל צעיר.
בנו הצעיר, צ'ארלס פרנסיס אדמס (שבנו נקרא ג'ון קווינסי אדמס השני), עסק בדיפלומטיה גם כן, ובנה את הספרייה הנשיאותית הראשונה בארצות הברית, לכבוד אביו.
ג'ון אדמס וקווינסי אדמס היו האבא והבן היחידים ששירתו כנשיאים עד לג'ורג' הרברט ווקר בוש (1989–1993) וג'ורג' וו. בוש (2001–2009).
מורשתו.
מקום לידתו של אדמס הוא חלק מפארק לאומי שפתוח בציבור. תשעה עשר מקומות נקראו "קווינסי" על שמו.
ביתו באוניברסיטת הרווארד נקרא על שמו, ועל שם בני משפחה אחרים שהיו בהרווארד.
הוא נחשב לדיפלומט הגדול ביותר בתולדות המדינה. הוא הגיע להסכמים חשובים, כהסכם גנט שסיים את מלחמת 1812, והסכם פלורידה שהוביל לסיפוח פלורידה. בנוסף ניסח את דוקטרינת מונרו.
אדמס עקב אחרי האופנה המתפתחת של ההופעה החיצונית והיה הנשיא הראשון שקיצר את שיערו ולבש מכנסיים.
הוא התנגד לעבדות כל ימיו אך תחילה פקפק ביכולותיו לבטל אותה, אך מאוחר יותר החריף את התנגדותו. הוא טען שבמהלך מלחמת אזרחים תבוטל העבדות, הצהרה שהתאמתה. הוא חזה שמלחמת אזרחים תפרוץ בנוגע לעבדות והתנגד למלחמת ארצות הברית–מקסיקו מסיבה זאת.
יומנים.
היומן של אדמס, שהחל להיכתב ב-1779 ונכתב עד מותו, נחשב לאוסף המפורט ביותר בנוגע לארצות הברית בתחילת דרכה.
התנגדות לעבדות.
לפני 1820, תמך אדמס בלאומיות האמריקנית. אולם לאחר היבחרו לבית הנבחרים, הפך למנהיג הלאומי הבולט ביותר שהתנגד לעבדות. הוא לא תמך בביטולה, אולם ידע שמלחמת אזרחים תוביל לסיומה.