ב-1824, ניסה ג'קסון להיבחר לנשיאות אולם נוצח. אף על פי שג'קסון זכה ליותר קולות מיריביו, לא הוא ולא שלושת המועמדים האחרים (ג'ון קווינסי אדמס, הנרי קליי וויליאם קרופורד) זכו לרוב האלקטורים. בית הנבחרים נאלץ להכריע בעניין. קליי, שהשיג את מספר האלקטורים הנמוך ביותר ולא יכול היה להתמודד, תמך באדמס. התמיכה של קליי הובילה להיבחרו של אדמס, שלאחר מכן הציע לקליי את תפקיד מזכיר המדינה. ג'קסון ופולק ביקרו את העניין וקראו לו "העסקה המושחתת", שבה קליי פגע ברצון העם ונתן לאדמס את הנשיאות בתמורה למחלקת המדינה.
ב-1825, התמודד פולק על ייצוג מחוזו בבית הנבחרים של ארצות הברית. הוא ניהל מסע בחירות כה תוקפני עד ששרה דאגה לבריאותו. יריביו טענו שבגיל עשרים ותשע היה צעיר מכדי לכהן, אולם הוא ניצח. הוא נאם ב-13 במרץ 1826, ודרש את ביטול חבר האלקטורים ובחירת הנשיא בעזרת קולות הבוחרים. לאחר שהקונגרס יצא לפגרה בקיץ 1826, חזר פולק לטנסי, וכשהקונגרס התכנס שוב בסתיו, חזר פולק אל וושינגטון. ב-1827 נבחר מחדש. ב-1828, שוב התמודד ג'קסון על הנשיאות ופולק ייעץ לו במסע הבחירות. לאחר ניצחונו של ג'קסון, הפך פולק לאחד מתומכיו הגדולים בבית הנבחרים. הוא סייע לג'קסון במאבקו נגד חידוש הזיכיון של הבנק השני של ארצות הברית. לאחר שנבחר בפעם החמישית ב-1833, הפך פולק ליושב ראש הוועדה לענייני מיסים. בתפקידו, לחם למען ביטול הבנק, כפי שג'קסון חפץ.
יושב ראש בית הנבחרים.
ביוני 1834, התפטר יושב ראש בית הנבחרים. פולק התמודד בבחירות לבחירת יושב ראש חדש, אולם הפסיד בסיבוב העשירי לג'ון בל, חבר קונגרס נוסף מטנסי שהתנגד לג'קסון. ב-1835, נבחר פולק על פני בל. לאחר מכן נוצרה המפלגה הוויגית בטנסי, כדי להתנגד לדמוקרטים של ג'קסון.
כיושב ראש, תמך פולק בג'קסון ולאחר 1836, במרטין ואן ביורן, יורשו. פולק מינה יושבי ראש לוועדות בעזרת הרוב הדמוקרטי. שני הנושאים המרכזיים במהלך כהונתו היו העבדות, ולאחר בהלת 1837, הכלכלה. ואן ביורן ופולק נאלצו להתמודד עם לחצים כבדים לבטל חוק שג'קסון חתם עליו, שפסק שקרקעות ציבוריות ימכרו רק בזהב ובכסף. ואן ביורן בחר להמשיך עם החוק.
פולק ניסה לסדר את בית הנבחרים, וסירב לאתגר אנשים לדו-קרב. הוא גם אישר "חוק סתימת פיות" לגבי עצומות מאנשים שהתנגדו לעבדות. לאחר שבע כהונות בבית הנבחרים, הכריז על פרישתו ועל התמודדותו לתפקיד מושל טנסי ב-1839. פולק הוא הנשיא היחידי ששירת כיושב ראש בית הנבחרים.
מושל טנסי.
ב-1835, בפעם הראשונה בתולדות המפלגה הדמוקרטית, הפסידה המפלגה את תפקיד מושל טנסי. פולק החליט לחזור הביתה ולעזור למפלגתו, וניצח את המושל הוויגי בהפרש של 2,500 קולות ב-1839.
פולק לא הצליח לקדם במועצה המחוקקת את שלוש תוכניותיו הגדולות: רגולציה לבנקים הממשלתיים, הנהגת שיפורים פנימיים במדינה, ושיפור החינוך. כהונתו נפגעה בגלל המשבר הכלכלי, שהוביל להפסדו של ואן ביורן בבחירות של 1840. בבחירות עצמן, זכה פולק לאלקטור אחד מטנסי שתמך בו לתפקיד סגן נשיא ארצות הברית, שכן לואן ביורן לא היה סגן רשמי. פולק ניסה להיבחר מחדש ב-1841, אולם הפסיד בהפרש של 3,243 קולות. פולק ניסה שוב להיבחר ב-1843, אולם שוב נוצח, הפעם בהפרש של 3,833 קולות. פולק הופתע משני הפסדיו הראשונים בקריירה הפוליטית שלו, והרהר בעתידו הפוליטי.
הבחירות לנשיאות.
לאחר שהפסיד את תפקיד המושל, היה פולק נחוש לכהן כסגן נשיא ארצות הברית הבא. מרטין ואן ביורן נחשב למועמד המוביל מטעם הדמוקרטים ב-1844, ופולק ניסה להיבחר לסגנו. ואן ביורן אמנם היה הנשיא לשעבר, אולם הפלג הדרומי במפלגה התנגד אליו בגלל עמדותיו כלפי העבדות, ואופן טיפולו במשבר הכלכלי של 1837 גרם גם הוא להתנגדות. דרומיים רבים העדיפו לתמוך בסגן הנשיא לשעבר, ג'ון קלהון מקרוליינה הדרומית. התעשיינים התאחדו מאחורי לואיס קאס, הסנאטור ממישיגן, וגם סגן הנשיא לשעבר ריצ'רד ג'ונסון נחשב למועמד חזק. פולק היה מוכן להיות סגן של כל אחד מהם, והיה צריך לזכות בשליטה במשלחת מטנסי לוועידה הדמוקרטית הלאומית. הוא הצליח לנצח את מתנגדיו בסניף המקומי והנחה את ציריו לתמוך בו לתפקיד סגן הנשיא בכל מחיר, תחת כל מועמד שלא יהיה. הדבר פתח אפשרות לחתום על עסקה עם ואן ביורן, בה טנסי תתמוך בואן ביורן בתמורה למינויו של פולק לסגנו. הסנאטורים תומאס בנטון ממיזורי וג'יימס ביוקנן מפנסילבניה, שרצו סגן נשיא פחות בולט כדי שיוכלו להתמודד על הנשיאות ב-1848, התנגדו לפולק. נושא סיפוח רפובליקת טקסס בידי הנשיא ג'ון טיילר שלט במירוץ. ואן ביורן והמועמד הוויגי המוביל, הנרי קליי, התנגדו לסיפוח ולמלחמה עם מקסיקו שתבוא בעקבותיו, אולם פולק ואנדרו ג'קסון תמכו בהתרחבות. ג'קסון, מאוכזב מעמדתו של סגנו לשעבר, ואן ביורן, החליט לתמוך בפולק כמועמד, אף על פי שפולק לא חשב שיוכל להפוך למועמד. אולם ההתנגדות שואן ביורן זכה לה מהמערב ומהדרום, הובילה לכך שפולק ייחשב למועמד פשרה.
כשהוועידה החלה ב-27 במאי 1844, השאלה הייתה האם הוועידה תקבע חוק שיצריך מועמד נשיאותי להשיג שני שלישים מקולות הצירים. הדרום תמך בכך, והחוק עבר, וכך הכשיל את מועמדותו של ואן ביורן. ואן ביורן אמנם זכה ברוב בסיבוב הראשון, אולם לא ברוב המיוחס, והתמיכה בו החלה לרדת. קאס, ג'ונסון, קלהון וביוקנן גם הם קיבלו קולות בסיבוב הראשון, ואחרי הסיבוב החמישי החל קאס להוביל. כשההצבעה נמשכה, מתנגדי קאס מצפון מזרח המדינה הודיעו על תמיכתם בפולק. בסיבוב השמיני, פולק זכה ב-44 מתוך 266 צירים. לאחר הסיבוב השמיני, כמה צירים נאמו לטובת פולק, והוא נבחר להיות המועמד בסיבוב התשיעי. הוא בחר בג'ורג' דאלאס, סנאטור לשעבר מפנסילבניה, כסגנו. פולק כונה "סוס אפל" (dark horse) עקב האנונימיות הכלליות ששררה סביבו קודם הבחירות לנשיאות, שכן לא היה ידוע לאוכלוסייה הכללית.
פולק לא נכח בוועידה, וכששמע על מועמדותו, טען שאסור לו לדחות את המועמדות. מפני שהמפלגה הדמוקרטית הייתה מפולגת בתוך עצמה, הבטיח פולק לשרת רק כהונה אחת בתפקיד, וקיווה ששאר הדמוקרטים יתמכו בו אם ידעו שבעוד ארבע שנים יבחר מועמד אחר. הוויגים לעגו לפולק ולאלמוניותו. אף על פי שהיה דובר בית הנבחרים ומושל טנסי, כל הנשיאים הקודמים היו סגני נשיאים, מזכירי המדינה או גנרלים בכירים. פולק נחשב למועמד ה"סוס השחור" הראשון, אולם מועמדותו לא הייתה מפתיעה כמו זו של פרנקלין פירס. למרות השסעים במפלגתו, הנרי קליי, שהיה המועמד הוויגי ומזכיר המדינה בעברו, ידע שפולק יוכל לאחד את הדמוקרטים.
הנשיא היוצא ג'ון טיילר- וויגי שהיה דמוקרט לשעבר- סולק ממפלגתו בספטמבר 1841. אף על פי שפולק תמך בסיפוח טקסס, שקל טיילר לרוץ כמועמד עצמאי, אולם הסכים לפרוש לאחר שג'קסון עודד את הדמוקרטים לקבל את תומכי טיילר למפלגה. לאחר שהאיום מצד טיילר נעלם, התמקד פולק באיחוד המפלגה. הוא הכריז שישרת כהונה אחת, וקיווה שדבר זה ישיג לו תמיכה מצד קלהון, קאס, בנטון וביוקנן, שרצו להיבחר לנשיאות אחרו. פולק נמנע מלדבר על נושא המכסים, אולם משך את פנסילבניה, מדינת מפתח, כשנאם נאומים לטובת המכס. בניו יורק, עוד מדינה חשובה, המושל הדמוקרטי איחד את הפלגים במפלגה המקומית מאחוריו. נושא סיפוח טקסס איים לפלג את המפלגה בין צפון ודרום, אולם פולק הצליח לפייס את הדרום ללא פגיעה במנהיגי המפלגה הצפוניים. ככל שהבחירות התקרבו יותר, התברר שרוב המדינה תמכה בסיפוח, וכמה מנהיגים וויגיים דרומיים תמכו בפולק בגלל התנגדותו של קליי לסיפוח. ביוני 1844, ניסה קליי לרכך את עמדתו בנוגע לסיפוח, אולם ניסיונו גרם לכעס מצד מתנגדי הסיפוח הצפוניים ולא פייס את הדרום. פולק השיג 49.5 אחוזים מהקולות ו-170 מתוך 275 אלקטורים.
פולק הפסיד במדינת לידתו, קרוליינה הצפונית, ובמדינת מגוריו, טנסי, והוא המועמד היחיד שעשה כן. למרות זאת, הוא ניצח בפנסילבניה ובניו יורק, לאחר שמפלגת החירות, שהתנגדה לעבדות, לקחה קולות מקליי. בנוסף, תמיכת המהגרים, שהתנגדו לוויגים, עזרה לפולק. פולק ניצח בבחירות בהפרש של 39,000 קולות מתוך 2.6 מיליון, והשיג 170 אלקטורים לעומת 105 לקליי. הוא זכה ב-15 מדינות, וקליי ב-11.
לאחר ששמע על ניצחונו ב-15 בנובמבר 1844, החליט פולק ליצור קבינט מאוזן מבחינה גאוגרפית. הוא החליט לא להכניס אל הקבינט שלו אישים שרצו להתמודד לנשיאות, אף על פי שבחר למנות את ביוקנן לתפקיד מזכיר המדינה. פולק כתב לואן ביורן וקיבל את המלצתו למינוי מזכיר האוצר. אנדרו ג'קסון תמך בפולק במהלך הליך המינויים, והשניים נפגשו בפעם האחרונה בינואר 1845, לפני שג'קסון מת ביוני. המינויים שביצע פולק גרמו לכעסו של ואן ביורן.
כשפולק הרכיב את הקבינט שלו, הנשיא טיילר ניסה להשלים את סיפוח טקסס. כשהסנאט דחה הסכם לסיפוח הרפובליקה, ניסה טיילר להעביר החלטה בשני בתי הקונגרס. בגלל אי הסכמה בנושא העבדות, נאלץ פולק לפשר בין הצדדים. בעזרת פולק, הסיפוח עבר ברוב דחוק בסנאט. במהלך מפתיע, יומיים לפני כניסתו של פולק לתפקיד, שלח טיילר לטקסס מכתב סיפוח רשמי.
נשיא ארצות הברית.
פולק היה הנשיא הצעיר ביותר עד אז. פולק, שהיה נחוש לכהן רק קדנציה אחת, מיהר לממש את הבטחותיו הרבות מן הבחירות. הוא הבטיח לבסס מערכת אוצר עצמאית, להוריד את מכסי המגן, להשיג את אורגון ואת קליפורניה וניו מקסיקו. פולק התחייב לשרת כהונה אחת, והשיג את כל מטרותיו תוך ארבע שנים. בעזרת קישור אורגון (ללא עבדות) וטקסס (עם העבדות) פולק זכה לתמיכה מהצפון ומהדרום. פולק היה בן 49 בהיבחרו לנשיא ארצות הברית, ובכך היה הנשיא הצעיר ביותר נכון לאותה העת.
מדיניות פנים.
מדיניות תקציבית וכלכלה.