ג'קסון נבחר, וטיילר התנגד אליו מבחינה פוליטית. הוא התנגד למערכת המינויים הפוליטיים של ג'קסון, בטענה שהייתה נשק בחירות. הוא התנגד למועמדיו של הנשיא לתפקידים ממשלתיים, וספג ביקורת מצד מפלגתו. טיילר נפגע מכך שג'קסון השתמש במינוי פגרה כדי למנות נציבי סחר לאימפריה העות'מאנית, והגיש חוק שנזף בנשיא.
טיילר ניסה להישאר ביחסים טובים עם ג'קסון, והתנגד לו רק בצורה עקרונית. הוא הגן על כך שג'קסון הטיל וטו על מימון פרויקטים שנחשבו לא חוקתיים, ותמך בכמה ממועמדיו של הנשיא לתפקידים, כולל במינויו של מרטין ואן ביורן לתפקיד השגריר בבריטניה. הנושא המרכזי בבחירות של שנת 1832 היה חידוש הזיכיון של הבנק השני של ארצות הברית, שטיילר וג'קסון התנגדו אליו. הקונגרס תמך בחידוש הזיכיון ביולי 1832, וג'קסון הטיל וטו על החוק. טיילר תמך בהטלת הוטו ותמך בנשיא שנבחר מחדש.
היפרדות מהמפלגה.
מערכת היחסים של טיילר עם המפלגה החמירה במהלך "משבר זכות הביטול" של 33–1832. קרוליינה הדרומית איימה בפרישה מהאיחוד והעבירה בנובמבר חוק שביטל את המכס של 1828 בגבולותיה. התעוררה שאלה חוקתית אם המדינות יכולות לבטל חוקים ממשלתיים. ג'קסון התנגד לכך והתכונן לחתום על חוק שיאשר לו שימוש בצבא כדי לאכוף את המכס. טיילר תמך בקרוליינה הדרומית ונאם בפברואר כנגד השימוש בצבא כנגד המדינה. הוא תמך במכס הפשרה שהנרי קליי הגיש, שנועד להקטין את המכס בתוך עשור, והקטין את המתיחות בין המדינות והממשלה.
בהתנגדותו לחוק שהיה מסמיך את ג'קסון להשתמש בצבא, ידע טיילר שפגע במעמדו בקרב תומכי ג'קסון במועצה המחוקקת של וירג'יניה. הוא ידע שזה יפגע בסיכוייו להיבחר מחדש לסנאט בפברואר 1833. בעידודו של קליי, נבחר טיילר מחדש בהפרש של שנים עשר קולות.
ג'קסון פגע בטיילר עוד יותר כשהחליט לפרק את הבנק בצו נשיאותי. בספטמבר 1833, הגיש ג'קסון צו נשיאותי שהסמיך את מזכיר האוצר להעביר את הפקדונות הממשלתיים מהבנק לבנקים מקומיים. טיילר ראה בכך גנבת כוחות ואיום לכלכלה. לאחר חודשים רבים, החליט לתמוך באויביו של ג'קסון. הוא היה בוועדה הפיננסית של הסנאט ותמך בשתי החלטות גינוי לנשיא במרץ 1834. באותה התקופה, הצטרף אל המפלגה הוויגית של קליי ששלטה בסנאט. ב-3 במרץ 1835, כשנותרו כמה שעות במושב הקונגרס, העבירו הוויגים החלטה שמינתה את טיילר לנשיא הזמני של הסנאט של ארצות הברית, כדי להפגין את קבלתו למפלגה באופן סמלי. הוא הנשיא היחיד שמונה לתפקיד זה.
מעט אחר כך, הדמוקרטים השתלטו על בית הנבחרים של וירג'יניה. הוצע לטיילר תפקיד שופט בתמורה להתפטרות ממושבו, אולם הוא סירב. הוא הבין שהמועצה המחוקקת תנסה לאלץ אותו להצביע בניגוד למצפונו. הוגש חוק שנועד למנוע את גינויו של ג'קסון. המועצה המחוקקת של וירג'יניה, בה שלטו הדמוקרטים, קבעה שעל טיילר להצביע בעד החוק. טיילר היה צריך לבחור אם להצביע בעד, ולפגוע באמונותיו, או להצביע נגד, וכך להמרות את פי המועצה המחוקקת - כפי שביקר סנאטורים רבים שלא מילאו את הוראות המועצה המחוקקת. הוא התייעץ עם חבריו בחודשים הבאים, ובאמצע פברואר החליט להתפטר מתפקידו, והגיש את מכתב ההתפטרות לסגן הנשיא ואן ביורן ב-29 בפברואר 1836, כשטען שיקבע דוגמה לשאר הסנאטורים.
הבחירות ב-1836.
טיילר אמנם ביקש לחזור אל חייו ואל משפחתו, אולם מהר מאוד נסחף אל תוך הבחירות ב-1836. הוצע לו להיות מועמד לתפקיד סגן הנשיא מאז תחילת 1835, והוויגים מוירג'יניה תמכו בכך לאחר התפטרותו מהסנאט. המפלגה הוויגית לא הייתה מספיק מאורגנת כדי לערוך ועידה לאומית ולבחור מועמד אחד שיתמודד מול ואן ביורן, יורשו הנבחר של ג'קסון. הוויגים בכל אזור הגישו את מועמדיהם המועדפים, ושיקפו את מצבה הרעוע של המפלגה: הוויגים ממסצ'וסטס תמכו בדניאל וובסטר ובפרנסיס גריינג'ר, מתנגדי הבונים החופשיים ממדינות הצפון והגבול תמכו בויליאם הנרי הריסון וגריינג'ר, ותומכי זכויות המדינות ממדינות הדרום האמצעי והתחתון תמכו ביו ווייט ובג'ון טיילר. במרילנד, טיילר היה סגנו של הריסון ובקרוליינה הדרומית, טיילר היה סגנו של ווילי מנגום. הוויגים רצו למנוע מואן ביורן רוב בחבר האלקטורים, כך שבית הנבחרים יכריע בין המועמדים והם ינסו להגיע לעסקה. טיילר קיווה שהאלקטורים לא יוכלו לבחור בסגן נשיא, ושהוא יהיה אחד משני המועמדים המובילים שהסנאט, לפי התיקון ה-12 לחוקת ארצות הברית, יכריע ביניהם.
לפי המנהג של אותה התקופה, המועמדים לא ניהלו את מסע הבחירות וטיילר נשאר בביתו ולא נאם. הוא השיג 47 אלקטורים בלבד, מג'ורג'יה, קרוליינה הדרומית וטנסי, כשהוא מאחורי גריינג'ר והמועמד הדמוקרטי, ריצ'רד ג'ונסון מקנטקי. הריסון היה המועמד הוויגי המוביל לנשיאות, אולם הפסיד לואן ביורן. הבחירות הנשיאותיות הוכרעו אצל חבר האלקטורים, אולם בפעם היחידה בתולדות המדינה, הבחירות לתפקיד סגן הנשיא הוכרעו בסנאט, שבחר בג'ונסון ולא בגריינג'ר בסיבוב הראשון.
דמות פוליטית לאומית.
טיילר נמשך אל הפוליטיקה בווירג'יניה גם כסנאטור. מאוקטובר 1929 ועד ינואר 1930, הוא שירת בחוסר רצון בוועידה החוקתית. החוקה המקורית של וירג'יניה נתנה השפעה רבה למחוזות המזרחיים והשמרנים במדינה, וקבעה מספר זהה של נציגים לכל מחוז, ללי קשר לאוכלוסייה. רק בעלי רכוש יכלו להצביע. הוועידה החליטה לתת הזדמנות למחוזות הליברליים והמאוכלסים יותר מהמערב להרחיב את השפעתן. טיילר, בעל עבדים ממזרח וירג'יניה, תמך בשימור הקיים. הוא לא פעל במהלך העימות, ולא רצה לפגוע באגפים הפוליטיים במדינה. הוא התמקד בקריירה שלו בסנאט, שדרשה בסיס תמיכה רחב, והוא תמך בפשרה.
לאחר הבחירות של 1836, חשב טיילר שהקריירה הפוליטית שלו נגמרה, ותכנן לחזור לעריכת דין. בסתיו 1837, חברו מכר לו רכוש באזור ויליאמסבורג. טיילר לא הצליח להתרחק מהפוליטיקה ונבחר לבית הנבחרים של וירג'יניה. הוא החל לכהן ב-1838. כעת היה דמות פוליטית לאומית, והוא התמקד בנושא מכירת קרקעות הציבור.
מחליפו של טיילר בסנאט היה ויליאם קאבל ריבס, דמוקרט שמרן. בפברואר 1839, האספה הכללית שקלה מי יוכל להחליף אותו. ריבס התרחק ממפלגתו והתקרב לוויגים. טיילר כבר דחה את הדמוקרטים וציפה שהוויגים יתמכו בו. הוויגים ראו את ריבס כמנוסה יותר מבחינה פוליטית, וקיוו לזכות לתמיכת הדמוקרטים השמרנים במערכת הבחירות לנשיאות ב-1840. הנרי קליי תמך בכך, למרות ידידותו עם טיילר. כשהקולות התפלגו בין שלושה מועמדים שונים, כולל ריבס וטיילר, המושב בסנאט נותר פנוי כמעט שנתיים.
הבחירות ב-1840.
מועמדותו של טיילר.
בוועידה הוויגית הלאומית ב-1839, בפנסילבניה, שנועדה לבחור את המועמדים לבחירות של 1840, נכנסה ארצות הברית לשנה שלישית של מיתון ("בהלת 1837"). הנשיא ואן ביורן לא הצליח להתמודד עם המצב ואיבד תמיכה. המפלגה הדמוקרטית הייתה מפולגת, והוויגים ידעו שהבחירה במועמד תהיה חשובה, שכן היו להם סיכויים לנצח. ויליאם הריסון, הנרי קליי והגנרל וינפילד סקוט ניסו להיות מועמדים. טיילר היה ציר מטעם וירג'יניה. המשבר בנוגע למושב הסנאט מנע את תמיכתה של וירג'יניה בטיילר בתור סגן הנשיא. טיילר עצמו לא סייע לבחירתו. אם קליי, המועמד שהעדיף, יצליח, נראה שלא היה נבחר להיות סגנו, שכן היה צריך לבחור במועמד צפוני ולאזן את המועמדים מבחינה גאוגרפית.
הוועידה התפלגה בקרב שלושת המועמדים, והמשלחת מוירג'יניה תמכה בקליי. הוויגים הצפוניים התנגדו לקליי, וביניהם היה תדיאוס סטיבנס מפנסילבניה. לכן הם הראו מכתב למשלחת מוירג'יניה, שבו סקוט כתב שתמך בביטול העבדות. הצירים מוירג'יניה הכריזו שהמועמד השני שהם תומכים בו הוא הריסון, מה שגרם לרוב תומכי סקוט לנטוש אותו ולתמוך בהריסון, שהפך למועמד.
תפקיד סגן הנשיא נחשב לתפקיד שולי, כיוון שכל הנשיאים תמיד סיימו את תקופת כהונתם הקבועה בחוק. לא רבים התעניינו בהליך הבחירה, ולא ידוע כיצד טיילר הצליח להיבחר. טיילר היה הבחירה הטבעית: הוא היה בעל עבדים מהדרום, איזן את הריסון והרגיע את פחדיהם של הדרומיים שחששו מכך שהריסון תומך בביטול העבדות. טיילר היה מוכר, ונבחר כדי להשיג תמיכה מצד וירג'יניה, המדינה המאוכלסת ביותר בדרום. לאחר מינויו של טיילר כנשיא, נטען שנבחר כיוון שאף אחד אחר לא קיבל את התפקיד, ובנוסף נטען שהוא בכה על תבוסתו של קליי, ולכן קיבל את המועמדות. וירג'יניה לא נכחה בהצבעה של טיילר, אבל הוא השיג את הרוב שנדרש לו. טיילר, כנשיא, הואשם שקיבל את המועמדות כשהסתיר את עמדותיו, והוא טען שלא שאלו אותו לגביהן.
הבחירות הכלליות.
הוויגים לא הציגו מצע מחשש לפילוג. לכן הם התמקדו בהתנגדות לואן ביורן, לדמוקרטים ולמיתון. עלוני הבחירות שיבחו את כנותו של טיילר שהתפטר מהסנאט במקום לפעול כנגד מצפונו. הוויגים קיוו שהריסון וטיילר לא ידברו הרבה, מחשש שיפגעו בחלקים שונים של המפלגה. אולם לאחר שסגנו של ואן ביורן, סגן הנשיא ג'ונסון, ערך סיבוב נאומים מוצלח, נשלח טיילר לסיבוב נאומים בו הבטיח לצפון שהוא הסכים עם הריסון. במסעו, שנמשך חודשיים, נאם טיילר באספות. הוא לא יכול היה להימנע משאלות, ולאחר שהודה שתמך במכס הפשרה (וויגים רבים לא תמכו בכך), הוא החליט לצטט את נאומיו המעורפלים של הריסון. בנאום בן שעתיים בקולומבוס, נמנע טיילר משאלת הבנק של ארצות הברית, נושא בוער של אותם הימים.