בשנת 1796, לאחר שוושינגטון סירב להתמודד שוב על המשרה, התמודד אדמס על הנשיאות מטעם המפלגה הפדרליסטית. המועמד הפדרליסטי השני היה תומאס פינקני, מושל קרוליינה הדרומית שנחשב למועמד לסגן הנשיא. באותה התקופה לא הייתה מועמדות לתפקיד הסגן, ובתפקיד זכה האדם שהגיע למקום השני בחבר האלקטורים.
יריביהם של אדמס ופינקני, מטעם המפלגה הדמוקרטית-רפובליקנית, היו מזכיר המדינה לשעבר, תומאס ג'פרסון מוירג'יניה, והסנאטור ארון בר מניו יורק כסגנו. הפדרליסטים העדיפו את המילטון. אף על פי שהמילטון תמך באדמס, רבים האמינו שהעדיף את פינקני. למרות זאת, העדיף המילטון לנצח את ג'פרסון. המילטון ותומכיו עדיין האמינו שלאדמס היו חסרות הרצינות והאהדה שעזרו לוושינגטון, וחששו שאדמס לא ימלא את הוראותם. אדמס נשבע שיתפטר אם יבחר למקום השני לאחר ג'פרסון ושלא ישרת כסגנו.
בר היה היחיד שניהל את מסע הבחירות. אדמס נשאר בביתו (כמו שאר המועמדים) ולא רצה לנהל מסע בחירות. המפלגה הפדרליסטית ניהלה מסע בחירות לטובתו והמפלגה הדמוקרטית-רפובליקנית ניהלה מסע בחירות לטובת ג'פרסון. רבים ציפו שאדמס ינצח בניו אינגלנד, ואילו ג'פרסון בדרום. בסופו של דבר, אדמס ניצח בבחירות בהפרש זעום של שבעים ואחד אלקטורים לעומת שישים ושמונה לג'פרסון (שמונה לסגן נשיא). הוא השיג עוד קול אחד מוירג'יניה של ג'פרסון וגם קול אחד מקרוליינה הצפונית.
נשיאותו.
כנשיא, אדמס המשיך במדיניותו של וושינגטון להפוך את משרת הנשיאות לדוגמה של ערכים רפובליקניים. הוא מעולם לא היה מעורב בשערוריות. הוא המשיך עם אותו קבינט של וושינגטון והמשיך בתוכניותיו. הוא המשיך בחיזוק הממשל המרכזי, בעיקר הצי והצבא. ביולי 1798 הוא חתם על חוק למתן שירות רפואי לחיל הים.
תוכניותיו הכלכליות המשיכו את אלו של המילטון. אדמס נשאר די עצמאי מהקבינט שלו בכל תקופת כהונתו ולעיתים קרובות החליט שלא על דעתם. כך הצליח להימנע ממלחמה עם צרפת, למרות רצון הקבינט שלו. הסכסוך עם צרפת חיסל את מעורבות ארצות הברית עם ענייניה של אירופה. בנוסף, הוא עזר לאומה הצעירה שהחזיקה מעמד מול מעצמה אירופאית.
על אף שאדמס היה פדרליסט, הוא חלק עליהם כמעט כמו האופוזיציה הדמוקרטית-רפובליקנית. אדמס ידע להחליט החלטות גם במחיר פוליטי כבד: הוא דחף להסכם שלום עם צרפת, ובכך פגע בפופולריות שלו. אדמס נותר גאה בהחלטתו כל ימיו ואף חקק אותה על המצבה שלו. הוא נותר בביתו במסצ'וסטס במשך רוב כהונתו.
המלחמה עם צרפת.
בתקופת כהונתו של אדמס היו סכסוכים גדולים על מדיניות החוץ, ובעיקר סביב הרצון להימנע מהסכסוכים באירופה. בריטניה וצרפת נלחמו, ובעוד שהמילטון והפדרליסטים תמכו בבריטניה, ג'פרסון והדמוקרטים-רפובליקנים תמכו בצרפת. הצרפתים רצו שג'פרסון יבחר לנשיאות ולאחר שאדמס ניצח, הם הפכו ללוחמניים אף יותר. אדמס הבין שעליו להמשיך במדיניות של וושינגטון, שעיקרה התרחקות מהמלחמה. הקרב על הסכם הסחר עם הבריטים פילג בין הפוליטיקאים ויצר מפלגות. הצרפתים ראו באמריקה כילדה של בריטניה והתחילו לפשוט על ספינות סחר אמריקאיות. האמריקאים ברובם תמכו בצרפת, בגלל עזרתה כנגד בריטניה במלחמת העצמאות. לכן הם לא רצו לעצור את צרפת.
לבסוף, אדמס פנה איתם למשא ומתן, אולם הצרפתים דרשו סכום כסף גדול לפני כן. לאחר מכן, דעת הקהל האמריקנית פנתה כנגד צרפת והתחילה לדרוש מלחמה. אדמס ויועציו ידעו שאמריקה לא תוכל לנצח את צרפת, שנלחמה בהצלחה בכל אירופה. לכן אדמס דרש מהספינות האמריקאיות לתקוף את הספינות הצרפתיות שאיימו על האמריקאיות. המלחמה הבלתי רשמית פרצה ב-1798. הסכנה מפלישה צרפתית הובילה את אדמס לבנות מחדש את הצבא ולמנות את וושינגטון לראש הצבא. וושינגטון רצה את המילטון בתור סגנו ואדמס הסכים מיד. בשל גילו המופלג של וושינגטון, כולם ידעו שהמילטון היה האחראי. אדמס בנה מחדש את הצי, והוסיף אליו את שש הפריגטות הראשונות של צי ארצות הברית, כשהעיקרית מביניהן היא קונסטיטושן. לשם מימון הצי, הקונגרס הטיל מס רכוש חדש (המס הישיר של 1798). זה היה המס הפדרלי הראשון והאחרון. משלמי המיסים כעסו על כך, וחקלאים גרמניים בהנהגת ג'ון פרייס, שראו במס איום על הערכים הרפובליקנים, מרדו בממשלה.
המילטון השתלט על המלחמה, והקרע בינו לבין אדמס גדל. המילטון, שפיקד על הצבא, נחשב לנשיא האמיתי. אדמס דרש מתן תפקידים לדמוקרטים-רפובליקנים כדי להשיג את תמיכתם, אולם המילטון סירב. הצבא הגדול גרם לחשש בציבור. באופן כללי, המלחמה נשארה פופולרית בדעת הקהל. אולם אדמס ידע שהניצחון מול צרפת במלחמה כוללת יהיה בלתי אפשרי, ולמרות הפגיעה במעמדו ביקש לחתום עם צרפת על הסכם. הוא הדהים את המדינה בפברואר 1799 כששלח דיפלומט לצרפת. נפוליאון בונפרטה, שהבין שהעימות היה חסר תוחלת, הסכים לכך. חוזה הברית של 1778, שקבע את חובתה של ארצות הברית לעזור לצרפת מול אירופה, בוטל, וארצות הברית שוחררה ממחויבויותיה באירופה. ג'ון מרשל מונה למזכיר המדינה של ארצות הברית ועצר את הצבא. אדמס פילג את מפלגתו בעצירת המלחמה. הוא ידע זאת, אולם היה גאה בכך שמנע את המלחמה.
חוקי הזרים וההסתה.
על אף הפגיעה במעמד הדמוקרטים-רפובליקנים בעקבות המלחמה עם צרפת, הם המשיכו להתנגד לפדרליסטים. במהלך המלחמה, ובמיוחד במהלך שלטון הטרור בצרפת, המצב נשאר מתוח. חלק מהדמוקרטים-רפובליקנים אף רצו שהצרפתים יעזרו להם לסלק את הפדרליסטים. הם איימו במרד, והפדרליסטים איימו בשימוש בצבא. ארצות הברית נשטפה בגל הפחד ששטף את אירופה, והגיעה קריאה למדיניות בדלנית. הפדרליסטים ראו במצב המתוח תוצאה מהגירה צרפתית והגירה של תומכי צרפתים. כתוצאה מכך, ב-1798 עברו בקונגרס חוקי הזרים וההסתה. ארבעת החוקים (חוק ההתאזרחות, חוק הזרים, חוק הזרים האויבים וחוק ההסתה) ניסו לעצור את האופוזיציה. חוק ההתאזרחות האריך את השהות המינימלית בארצות הברית על מנת להתאזרח מחמש שנים לארבע עשרה שנים (כיוון שרובם תמכו בדמוקרטים-רפובליקנים). חוק הזרים וחוק הזרים האויבים הסמיך את הנשיא לגרש תושבים זרים שהוא מצא כמסוכנים למדינה. חוק ההסתה אסר פעולות של פרסום שקרים וכתיבה עוינת נגד הממשלה ופקידיה. העונשים על כך היו בין שנתיים לחמש שנים בכלא וקנסות של עד 5,000 דולר. אדמס לא קידם את החוקים, אולם חתם עליהם.
החוקים, ומעצרם של מספר עורכי עיתונות וחבר קונגרס אחד בידי הפדרליסטים, היו מוקד למחלוקת. החוק עצמו לא נאכף, ורק עשרה אנשים נעצרו בגללו. אדמס עצמו מעולם לא גירש תושבים זרים. אולם זרים רבים עזבו את המדינה מרצון, ונוצרה האווירה שהתנגדות לפדרליסטים משמעה מעצר. הבחירות לנשיאות ב-1800 היו קשות, וכל צד הביע פחד מהמפלגה האחרת וממדיניותה. לאחר ניצחון הדמוקרטים-רפובליקנים בבחירות, הם השתמשו בחוקים כנגד הפדרליסטים עד שהם פגו.
בחירות 1800.
ב-1799, נחלשו הפדרליסטים בגלל מותו של וושינגטון, שנחשב למי שאיחד את המפלגה. במהלך הבחירות ב-1800, התמודדו אדמס וסגנו הפדרליסט, צ'ארלס קוטוורת' פינקני, מול הרפובליקנים- ג'פרסון ובר. המילטון ניסה לחבל במסע הבחירות של אדמס בתקווה לחזק את סיכוייו של פינקני. לבסוף הפסיד אדמס בהפרש זעום של שישים וחמישה אלקטורים לעומת שבעים ושלושה לג'פרסון ולבר, כשניו יורק הכריעה את הבחירות.
אדמס הפסיד בגלל חוסר האמון בו במפלגתו שלו, הכעס שעוררו חוקי הזרים וההסתה, הארגון הטוב של הדמוקרטים-רפובליקנים, הפופולריות של יריבו תומאס ג'פרסון והתמיכה לה זכה ארון בר בניו יורק, לאחר שהמועצה המחוקקת עברה לידם של הדמוקרטים-רפובליקניים.
לקראת סוף כהונתו הפך אדמס לנשיא הראשון שגר בתוך אחוזת הנשיא הבלתי גמורה, שהפכה לבית הלבן, החל מ-1 בנובמבר 1800. במהלך יומו השני של אדמס בבית, הוא כתב פתק לאשתו אביגייל, ובו תפילה לשלום הבית. אדמס כתב:
בהמשך, הנשיא פרנקלין דלאנו רוזוולט חרט את ברכתו של אדמס על אדן האח בחדר האוכל הממלכתי.
לאחר תבוסתו בבחירות, נכנס אדמס לדיכאון כשעזב את התפקיד. בנו צ'ארלס מת מאלכוהוליזם, והוא חשש להצטרף לאביגייל, שהלכה למסצ'וסטס חודשים לפני טקס ההשבעה. כתוצאה מכך, לא נכח בטקס ההשבעה של ג'פרסון, עזב את הבית הלבן בארבע לפנות בוקר, והיה הנשיא הראשון מתוך חמישה שלא נכח בטקס ההשבעה של יורשו. חלופת המכתבים שלו עם ג'פרסון באותה תקופה הייתה לבבית.
פרישתו.
אדמס חזר לחקלאות בביתו בקווינסי. הוא החל לעבוד על האוטוביוגרפיה שלו, אותה לא סיים.
לאחר פרישתו של ג'פרסון ב-1809, הפך לקולני יותר. הוא פרסם מכתבים בהם הגיב להאשמות של המילטון כנגדו. המילטון אמנם כבר נהרג ב-1804, לאחר דו-קרב עם ארון בר, אולם אדמס הרגיש צורך להגן על עצמו מפני האשמותיו של המילטון.
ב-1803, קרס הבנק שהחזיק בו את חסכונותיו. בנו ג'ון קווינסי בא לעזרתו ורכש את האדמות שלו.
בתו אביגייל (נבי) נישאה לחבר הקונגרס ויליאם סמית', ולאחר כישלון הנישואין חזרה אל בית הוריה. היא מתה מסרטן השד ב-1813. אשתו אביגייל מתה משחפת ב-28 באוקטובר 1818. בנו תומאס ואשתו אן, עם שבעת ילדיהם, חיו עד לסוף ימיו, וכך גם אחייניתה של אביגייל, לואיזה סמית'. שישה עשר חודשים לפני מותו, נבחר בנו, ג'ון קווינסי אדמס, לנשיאות ב-1825. היה זה המקרה היחיד בו נבחר בן של נשיא לשעבר לנשיאות עד להיבחרו של ג'ורג' ווקר בוש ב-2001.
חלופת המכתבים עם ג'פרסון.
בתחילת 1812, התפייסו אדמס וג'פרסון בזכות ידידם המשותף, בנג'מין ראש, שגם חתם על הכרזת העצמאות. שני הנשיאים לשעבר התכתבו אחד עם השני מאז ועד לסוף חייהם.