דיפנבייקר אף על פי כן הביע חוסר אמון במדיניותה המורכבת של המפלגה באונטריו ולא הסכים בפומבי עם מנהיגה, ארתור מיין, שהתנגד להשלמת מסילת הרכבת אל מפרץ הדסון ואיים לשנות את שיעורי ההובלה של הרכבת לטובת תנועת יבול התבואה בערבה הקנדית. דיפנבייקר הפסיד בבחירות לחברות הפרלמנט מטעם פרינס אלברט (המפלגה השמרנית לא השיגה אף מושב בססקצ'ואן בבחירות 1925). בהמשך, נכשל בארבע מערכות בחירות מוניציפליות נוספות ולא הציג כל הישג פוליטי. המנצח הליברלי בפרינס אלברט, צ'ארלס מקדונלד, התפטר כמעט מיד ממושבו כדי לפנות מקום לראש הממשלה הליברלי ויליאם ליון מקנזי קינג, שאיבד את מושבו שלו ביורק הצפונית. המפלגה השמרנית לא התמודדה נגדו בבחירות הבאות על המושב הפרלמנטרי, אף שדיפנבייקר ניסה באופן פרטי להתמודד באופן עצמאי. בסוף יוני 1926 התפטרה ממשלתו במה שנודע כ"פרשת קינג-בינג" והוחלפה על ידי השמרנים של מיין, שהובסו בבת אחת בבית הנבחרים. הבית פוזר לבחירות בספטמבר. דיפנבייקר עמד שוב כמועמד בפרינס אלברט, ופעם נוספת נכנס ליריבות עם מנהיג מפלגתו, מיין, והפסיד בבחירות. המפלגה הליברלית של קינג חזרה לשלטון ברוב מוחלט, ואילו השמרנים איבדו את כל המושב למעט אחד בשלושת מחוזות הערבה (מניטובה, ססקצ'ואן ואלברטה).
למרות הפסדיו האלקטורליים החל דיפנבייקר למשוך תשומת לב מצדדים שונים ברחבי המדינה. כשעשה את המסע הפוליטי הראשון שלו מססקצ'ואן בשנת 1926 כדי להתייחס לכינוס המפלגה השמרנית בקולומביה הבריטית, הוא תואר על ידי העיתונאי ויליאם ברוס האצ'יסון כ"גבוה, רזה, כמעט שלד, תנועותיו הגופניות מטלטלות ועוויתות, פניו צובטות ולבנות, חיוורתו מודגשת על ידי תלתלים שחורים מתכתיים ועיניים שקועות והיפנוטיות." אולם מהאדם "השברירי, הסביבתי" הזה, המשיך האצ'יסון, "קול של כוח עז ובריאות גסה נשמע כטרומבון." דיפנבייקר השתתף בכנס ההנהגה המפלגתית הפדרלי בשנת 1927 בויניפג שבחר בריצ'רד בדפורד בנט, להחליף את מיין בהנהגת המפלגה. דיפנבייקר היה למעריץ של בנט כשהוא בנה מחדש את המפלגה השמרנית. בססקצ'ואן השמרנים התכוננו להתעמת עם הממשלה הליברלית המחוזית המושרשת, שכוחה היה ביחסים הטובים עם עמותות מגדלי התבואה וקהילות המהגרים הגדולות, בעיקר המהגרים הקתולים. השמרנים פנו למגזרי ציבור אחרים לקבלת תמיכה. לצד זאת, משנת 1926 עד 1928, שלוחה קנדית של הקו קלוקס קלאן יצרה יותר ממאה סניפים מקומיים במחוז, ופנתה לרגשות אנטי-קתוליים, אנטי-צרפתים ושנאת זרים. ההתערבות של התנועה הובילה לרדיקליזציה בתוך שורותיה של המפלגה השמרנית. ב-1929 הפסיד דיפנבייקר פעם נוספת בבחירות למושב של פרינס אלברט.
נישואים, חיי משפחה ומשפטי "המלך".
בקיץ 1928 דיפנבייקר התארס עם עדנה ברואר (Edna Brower ;1899-1951), מורה מוכרת בססקטון. הם נישאו שלושה שבועות לאחר הפסדו של דיפנבייקר בבחירות למחוז. עדנה הייתה נכס מיידי לפוליטיקאית השאפתנית, וקיזזה את נוכחותו העמומה של דיפנבייקר בחמימותה ובספונטניות שלה. אמו של דיפנבייקר התמרמרה על נישואים אלו של בנה, עם זאת, היא קודם לכן התעקשה שבנה ישמור עם עדנה על קשר. ג'ון שמר על קשר הדוק עם הוריו, וביקר בקביעות בססקטון לפגוש בהם ולשוחח עמם. הוא מילא גם תפקיד מגונן ומחנך כלפי אחיו, אלמר, שבאותה העת לקח חלק במשרד עורכי הדין דיפנבייקר בפרינס אלברט כמתווך ביטוח ויזם צעיר. עדנה הייתה מעורבת מקרוב בחיי המשפטים של דיפנבייקר, התבוננה והתייחסה להתנהגותו באולם בית המשפט, התבוננה בתגובות השופטים ומושבעים, והציעה תמיכה והרגעה ללקוחותיו. באותה שנה התקבל כ"יועץ למלך" (King's Counsel, מעשית: פרקליט בכיר).
בסוף שנות העשרים של המאה העשרים דיפנבייקר הגן על ארבעה עצורים באשמת רצח. העצורים הואשמו בידי הממשל הקנדי ולכן התיקים המשפטיים נעשו בשם "המלך"; ג'ורג' החמישי, מלך הממלכה המאוחדת. במקרה הראשון, "המלך נגד בורדון" בשנת 1927, הוא הופיע כיועץ זוטר, אך לאחר מכן תמיד פעל כמוביל. הנאשם במשפט הראשון הורשע. בשנה שלאחר מכן, ב"המלך נגד אולסון", ביקש דיפנבייקר ערעור כי הרשעה ברצח תבוטל בטענה כי השופט קמא הורה על המושבעים שלא כהלכה. פסק הדין התקיים, אך בהמלצת בית המשפט דיפנבייקר עתר בטענה כי הנאשם לא היה מסוגל נפשית לעמוד לדין. הקבינט הפדרלי העמיד את עונשו למאסר עולם. הוא הצליח באותה מידה ב"המלך נגד פאסווסטי" כי גזר דין מוות הומר למאסר עולם. ב"המלך נגד וייסוצ'אן" הוא הגן על מרשו בטענה כי הרצח בוצע על ידי בעלה של הקורבן. הנאשם הורשע, הערעור נדחה, הקבינט הפדרלי הכחיש דחייה, והנאשם נתלה בכלא פרינס אלברט ביוני 1930.
במהלך משפט זה, סבל דיפנבייקר מהתפרצות של מחלת הקיבה שלו ולאחר מכן לקח חופש מעיסוקו בתחום המשפט. הוא לא היה מועמד בבחירות הפדרליות ב-28 ביולי 1930 שהביאו לממשלת הרוב השמרני בפיקודו של בנט ושמונה מושבים חדשים למפלגה בססקצ'ואן. עם זאת, כתוצאה מהניצחון השמרני המחוזי בשנת 1929 הוא השיג עלייה בתמיכה הפוליטית הפנימית של המפלגה. מאוחר יותר בשנת 1930 שימש כיועץ זוטר לוועדה המלכותית המחוזית המכונה ועדת האישומים של בריינט, בחקירת טענות השמרנים כי הממשלה הקודמת התערבה בפעילות משטרת המחוז לטובתה של המפלגה הליברלית. הוועדה הסתיימה באופן בלתי-החלטי בתחילת 1931. ככל שהשפל הגדול העמיק בצידה של בצורת, כישלון יבול, עלייה כללית בחובות ואבטלה מכלל האוכלוסייה, איבדה ממשלת המחוז החדשה את רוב תקציבה ואת יכולת הפעילות שלה. הפעילות המשפטית של דיפנבייקר בפרינס אלברט התכווצה, אך הוא הצליח לשמור על הכנסה נוחה לאורך כל שנות השלושים. בשנת 1932 עזב שותפו למשפטים, ויליאם ג. אלדר, ביריבות בין השניים אשר נגעה לכספים ואתיקה יחדיו. בשנה שלאחר מכן גייס דיפנבייקר את ג'ון מרסל קואלנאר כשוליה משפטית.
פריצת הדרך להנהגת השמרנים.
הנהגת המפלגה בססקצ'ואן.
באוקטובר 1933 נבחר דיפנבייקר לסגן מנהיג המפלגה השמרנית בססקצ'ואן ובנובמבר הוא הציב את עצמו כמועמד ברגע האחרון לראשות עיריית פרינס אלברט במצע של הפחתת ריבית על החוב האזרחי. הוא הפסיד ב-48 קולות בלבד. דיפנבייקר לא היה מועמד בבחירות המחוזיות ביוני 1934, אך הוא תמך בשמרנים בבחירות חסרות סיכוי. המפלגה איבדה כמעט את כל מושביה לליברלים, שהתמודדו עם אופוזיציה קטנה של חקלאים. בינתיים, דיפנבייקר המשיך להתפעל מההנהגה של בנט. לאחר שראש הממשלה הודיע ​​על "ניו דיל" בסגנון אמריקאי לשיקום כלכלי בינואר 1935, כתב דיפנבייקר כי הצעותיו הרדיקליות של בנט הפיחו בו תקווה חדשה. אבל השלטון הפדרלי היה מפולג ומושפל על ידי השפל המתמשך. ביולי 1935 דיפנבייקר דחה את הצעת המועמדות הפדרלית בפרינס אלברט. הוא ערך קמפיין פוליטי למען תמיכה פוליטית במפלגה במהלך הבחירות באוקטובר, רק כדי לראות את סיכוייה מתנפצים פעם נוספת במפולת לשיבת הליברלית להנהגה בראשות מקנזי קינג, עם רוב של 173 מושבים לעומת 39 מושבים לשמרנים. בססקצ'ואן השמרנים נבחרו רק במושב אחד מתוך 21. בנט הוביל את האופוזיציה במשך שלוש שנים נוספות בזמן שקינג שב לראשות הממשלה.
לאחר תבוסתה האלקטורלית בשנת 1934, הובילה המפלגה השמרנית ססקצ'ואן קיום רפאים עם לא יותר מקומץ פעילים. באוגוסט 1935 ירש דיפנבקר את תפקיד המנהיג בפועל של המפלגה פרובינציאלית. הוא היסס לקרוא לכנס מנהיגים פרובינציאלים עד אוקטובר 1936. שבוע לפני הכינוס הציג את מועמדותו וב-28 באוקטובר הוא הועמד כמנהיג המפלגה. במשך 18 חודשים ניהל דיפנבייקר את המפלגה ממשרד עורכי הדין שלו בעוד שקואלנאר נשא את עבודתו המשפטית של המשרד. דיפנבייקר פנה ללא תועלת למפלגה הלאומית בבקשה לסיוע כספי ונסע בפרובינציה בניסיון מציאת מועמדים פוטנציאליים. כאשר נקראו בחירות כלליות ביוני 1938 הוא היה מועמד בארם ריבר ולקח הלוואה אישית לתשלום פיקדונות המינוי עבור 21 מועמדים אחרים. התוכנית המתקדמת של המפלגה קראה למימון מחדש של החוב הפרובינציאלי, התאמת חובות המשק, מחקר של ביטוח יבול או תשלומי קרקעות, והתחייבות עקרונית לביטוח בריאות הציבור. בסיומן של הבחירות בססקצ'ואן הממשל הליברלי נבחר מחדש עם 38 מושבים מול 14 מתנגדים, אף אחד מהם לא שמרני. ההצבעה של המפלגה השמרנית צנחה ל-12 אחוזים, אך איש לא האשים את המנהיג בתוצאה. כאשר המפלגה נפגשה בכינוס ארבעה חודשים לאחר מכן, התפטרותו של דיפנבייקר נדחתה פה אחד והוא נותר מנהיג כברירת מחדל במשך שנתיים נוספות.
הנהגת המפלגה הלאומית.
השאיפות הפוליטיות של דיפנבייקר נותרו ממוקדות דווקא בפוליטיקה לאומית ולא פרובינציאלית רק לססקצ'ואן. באביב 1939 הוא תכנן מועמדות באגם סנטר, המקבילה הפדרלית של מחוז פרינס אלברט. ב-15 ביוני הוא הועמד כמתמודד השמרני והחל בהכנות אינטנסיביות לבחירות בשנה שלאחר מכן. עם פלישת גרמניה הנאצית לפולין, המפלגה השמרנית הכריזה על הזדהותה עם הכרזת המלחמה הבריטית על גרמניה. ההסדרים לקמפיין הבחירות הושעו, והחלו שוב רק עם פיזור הבית בינואר 1940. קינג פתח בקמפיין בביטחון כמתפקד המלחמה, ואילו השמרנים בהנהגת רוברט ג'יימס מאניון היו מפולגים ולא מאורגנים. באגם סנטר קרא דיפנבייקר להורדת המחירים עבור חיטה, פעל לחזק את תדמיתו הודות לשירותו במלחמת העולם הראשונה ותקף את ממשלת קינג על נטיותיה לסמכותנות. המפלגה הליברלית זכתה ברוב מוחץ ב-26 במרץ. מאניון הובס, אך דיפנבייקר זכה לניצחון דחוק כאחד משני השמרנים המצליחים בססקצ'ואן. לאחר חמש תבוסות רצופות בבחירות, הוא נבחר לראשונה כחבר הפרלמנט הקנדי.