בליין קיבל את החדשות בביתו בוושינגטון, ושלח מברק להייז שבו בירך אותו. במהלך הבחירות, הייז נבחר לאחר שהצליח להגיע לפשרה בנוגע לקולות אלקטורים שהיו שנויים במחלוקת. התוצאות של הוועידה השפיעו על הקריירה הפוליטית של בליין. בריסטו, שלא הצליח להיבחר, התפטר מתפקידו כמזכיר האוצר. הנשיא גרנט מינה את הסנאטור ממיין, לו מוריל, במקומו, ומושל מיין החליט למנות את בליין להיות הסנאטור החדש. כשהמועצה המחוקקת של מיין התכנסה בסתיו, היא אישרה את מינויו של בליין ובחרה בו לכהונה של שש שנים בסנאט, שתתחיל ב-4 במרץ 1877.
בסנאט, 1876-1881.
בליין מונה לסנאטור ב-10 ביולי 1876, ונכנס לתפקידו בדצמבר. כשכיהן בסנאט, היה חבר בוועדת ההקצבות ובוועדה לרפורמה בשירות הציבורי, אולם לא הצליח להפוך למנהיג בסנאט כפי שהיה בבית הנבחרים. הסנאט נשלט בידי רוב רפובליקני דחוק, שהיה מפולג כנגד עצמו וכנגד ממשל הייז. בליין לא היה מתומכי הממשל, אולם לא הצטרף לרפובליקנים של קונקלינג - סיעת ה"איתנים" - שהתנגדו להייז, בגלל שנאתו לקונקלינג. הוא התנגד לסיום תקופת השיקום כשהייז הסיג את כוחות הצבא מהדרום, אולם לא הצליח להשפיע בנושא זה. בליין המשיך להיות יריב של הדמוקרטים הדרומיים, והתנגד לחוקים שעברו בבית הנבחרים - בו שלטו הדמוקרטים - שהיו אמורים להקטין את ההקצבות בנושאי ביטחון וימנעו את אכיפת זכויות ההצבעה לשחורים. ב-1879, רק 1,155 חיילים היו באזורי הקונפדרציה, ובליין האמין שהכוח הקטן הזה לעולם לא יוכל להבטיח את זכויות האזרח וההצבעה של השחורים בדרום, מה שיחסל את המפלגה הרפובליקנית בדרום. החוקים עברו בקונגרס אולם הייז הטיל עליהם וטו. לבסוף, המשאבים למימון אכיפת הזכויות של השחורים הוקטנו.
בעניינים מוניטריים, המשיך בליין לתמוך בדולר יציב. העניין הפך מוויכוח על שטרות שלא מגובים בזהב לוויכוח על המתכת שאליה יוצמד הדולר: זהב וכסף יחדיו, או זהב בלבד. חוק המטבעות של 1873 מנע הטבעת מטבעות כסף, ובאופן מעשי הצמיד את הדולר לזהב. כתוצאה מכך, מחזור הכסף קטן, וההשפעות של המיתון ב-1873 הוחמרו, כך שלווים התקשו לשלם את חובותיהם. החקלאים והפועלים דרשו חזרה להטבעת מטבעות כסף, באמונה שהעלאת כמות הכסף תעלה את השכר ואת המחירים. הדמוקרטים הציעו חוק, שעבר בבית הנבחרים, ודרש שארצות הברית תטביע מטבעות כסף לפי כמות הכסף שהכורים ימכרו לממשלה, וכך תעלה את מחזור הכסף ותקל על הלווים. בסנאט, הרפובליקנים הציעו להגביל את הטבעת הכסף בין שניים לארבעה מיליוני דולרים בכל חודש. בליין גינה את החוק, אולם החוק עבר בסנאט ברוב של 48 מול 21. הייז הטיל וטו על החוק, אולם הקונגרס גייס רוב של שני שלישים והעביר את החוק בכל זאת. למרות זאת, בליין המשיך להתנגד לחוק ונאם נגדו במהלך הבחירות לקונגרס ב-1878.
זמנו בסנאט אפשר לו לפתח את מדיניות החוץ שלו. הוא תמך בהרחבת הצי וצי הסוחר, שהתכווצו מאז מלחמת האזרחים. בליין גם התנגד לתוצאות של הסכם בוררות עם בריטניה בנוגע לזכויות דייגים אמריקנים במים קנדיים, שהובילו לתשלום 5.5 מיליון דולרים לבריטניה. התמיכה של בליין במכסים גבוהים והתנגדותו לבריטניה גרמה לשינוי דעתו בנוגע להסכם איחוד מכסים עם קנדה, שבו תמך בתחילה אולם לאחר מכן החליט להתנגד לו.
הבחירות לנשיאות ב-1880.
הייז הכריז כבר בתחילת נשיאותו שלא ירוץ לעוד כהונה, והמשמעות הייתה שהמועמדות הרפובליקנית ב-1880 הייתה פתוחה גם לבליין. בליין נחשב למועמד המוביל, כמו גם הנשיא לשעבר גרנט, מזכיר האוצר ג'ון שרמן מאוהיו, והסנאטור ג'ורג' אדמונדס מורמונט. אף על פי שגרנט לא קידם את מועמדותו, כניסתו אל המירוץ עודדה את סיעת "האיתנים" וכשהוועידה התכנסה בשיקגו ביוני 1880, מועמדותו המחודשת של גרנט הובילה למחלוקת במפלגה. מתנגדי גרנט העדיפו את בליין. בסיבוב הראשון, גרנט הוביל עם 304 קולות לעומת 284 לבליין. אף מועמד אחר לא השיג יותר מ-93 הקולות של שרמן, ואף אחד מהם לא הצליח להשיג 379 קולות, המספר הדרוש של קולות כדי להיבחר. צירי שרמן יכלו לבחור בגרנט או בבליין, אולם הוא סירב לוותר על מועמדותו במשך עשרים-ושמונה סיבובים, בתקווה שמתנגדי גרנט יתמכו בו ולא בבליין. לבסוף, הצירים נטשו את בליין, אולם במקום שרמן, הם תמכו בחבר הקונגרס מאוהיו, ג'יימס גרפילד, ובסיבוב השלושים-ושישה, הוא השיג 399 קולות, מספיק כדי לנצח.
גרפילד ריצה את ה"איתנים" בכך שמינה את צ'סטר ארתור מניו יורק, תומך של קונקלינג, כסגנו, אולם גרפילד היה חייב את מועמדותו לתומכי בליין. כשגרפילד ניצח בבחירות את המועמד הדמוקרטי, וינפילד סקוט הנקוק, הוא פנה לבליין כדי שיעזור לו בבחירת הקבינט שלו, והציע לו לשמש כמזכיר המדינה של ארצות הברית. בליין הסכים, והתפטר מהסנאט ב-4 במרץ 1881.
מזכיר המדינה, 1881.
מדיניות חוץ יוזמת.
בליין הרגיש שהרכבת הקבינט היא סיכוי להתערבב בחברה הגבוהה של וושינגטון, והוא הקים לעצמו בית גדול יותר באזור. למרות שניסיונו במדיניות חוץ היה קטן, בליין התרגל מהר לתפקידו החדש. ב-1881, הוא נטש לחלוטין את תמיכתו בפרוטקציוניזם והשתמש בתפקידו כמזכיר המדינה כדי להוריד מכסים, בעיקר בחצי הכדור המערבי. היו לו שתי סיבות: ראשית, הוא המשיך לחשוש מהתערבות בריטית ביבשת אמריקה, וראה בהעלאת הסחר עם אמריקה הלטינית דרך למנוע מהבריטים להשיג דריסת רגל באזור. שנית, הוא האמין שעידוד הייצוא יעלה את השגשוג האמריקני, וכך יעזור למפלגה הרפובליקנית לנצח. גרפילד הסכים עם חזונו של בליין ובליין קבע ועידה כלל-אמריקנית ב-1882 כדי לפתור סכסוכים בין מדינות אמריקה הלטינית ולדון בהעלאת הסחר. באותה תקופה, קיווה בליין להוביל להסכם שלום במלחמת האוקיינוס השקט, שהתרחשה באותה התקופה בין בוליביה, צ'ילה ופרו. בליין תמך בהסכם שימנע מפרו לוותר על טריטוריה, אולם צ'ילה, שב-1881 כבשה את עיר הבירה של פרו, התנגדה לסכם בו לא תשיג כלום. בליין רצה להגדיל את ההשפעה האמריקנית באזורים אחרות, וקרא לפתוח הסכם קודם שמנע מארצות הברית לכרות תעלות באמריקה, כדי לכרות תעלה בפנמה בלי מעורבות בריטית, וגם להקטין את ההשפעה הבריטית בממלכת הוואי. תוכניותיו להשפעה אמריקנית חרגו מחצי הכדור המערבי, והוא רצה להגיע להסכמי סחר עם קוריאה ומדגסקר.
ההתנקשות בגרפילד.
ב-2 ביולי 1881, ליווה בליין את גרפילד בתחנת הרכבת בוושינגטון בדרכו לחופשה, כשגרפילד נורה בידי מתנקש, צ'ארלס גיטו. גיטו, שהיה מעורער בנפשו וביקש להתמנות לתפקיד כשגריר, האמין שברצח הנשיא יוכל להתחבב על סגן הנשיא ארתור ולקבל מינוי לתפקיד. גיטו נלכד מיד ונתלה כעבור שנה. הוא שרד יותר מגרפילד, שנלחם על חייו במשך חודשיים וחצי, ומת ב-19 בספטמבר 1881. מותו של גרפילד גם סימן את סוף שליטתו של בליין בקבינט ואת סוף מטרותיו ביחסי החוץ. לאחר שארתור הפך לנשיא, סיעת ה"איתנים" התחזקה וימיו של בליין כמזכיר המדינה היו ספורים. ארתור ביקש מכל חברי הקבינט לא להתפטר עד שהקונגרס יתכנס שוב בדצמבר. בליין התפטר באוקטובר, אולם הסכים להישאר בתפקידו עד שימונה לו מחליף. מחליפו היה נציג סיעת ה"איתנים" מניו ג'רזי, פרדריק פרלינגהויסן. ארתור ופרלינגהויסן ביטלו את רוב היוזמות של בליין, כולל את הוועידה הכלל-אמריקנית ואת הניסיונות לסיים את מלחמת האוקיינוס השקט, למרות שהם חתמו על הסכם איחוד מכסים עם מקסיקו ב-1882.
חיים פרטיים.
בליין החל את 1882 כשהוא ללא תפקיד פוליטי, בפעם הראשונה מאז 1859. בעיות בריאות העיקו עליו (רבים האמינו שהיה היפוכונדר) והוא החליט לא למצוא עבודה אלא לכתוב את החלק הראשון בביוגרפיה שלו. חבריו במיין ביקשו ממנו לנסות להיבחר לבית הנבחרים ב-1882, אולם הוא ויתר על כך והעדיף להמשיך בכיתבה. הכנסותיו מהמכרות וממסילות הרכבת אפשרו לו לשפץ את ביתו. בליין הופיע בקונגרס ב-1882, והעיד לטובת מאמציו לסיים את המלחמה באוקיינוס השקט, כשהוא מכחיש את ההאשמות שהייתה לו מניה בארגונים שייצאו גואנו בפרו ונכבשו בידי צ'ילה. ב-1884 פרסם את החלק הראשון בביוגרפיה שלו, הרוויח עוד כסף והצליח לחזור למרכז הבמה הפוליטית. לקראת הבחירות של 1884, שוב עלה שמו כמועמד פוטנציאלי, והוא מצא את עצמו שוב רודף אחר הנשיאות.
הבחירות ב-1884.
מועמדות.
בחודשים לקראת הוועידה של 1884, נחשב בליין למועמד המוביל, אולם הנשיא ארתור ניסה להיבחר בזכות עצמו. המועמד העדיף בקרב תומכי הרפורמה היה ג'ורג' אדמונדס, וגם ג'ון שרמן הצליח להשיג צירים, אולם אף אחד מהם לא היה צפוי להשיג תמיכה רחבה יותר בוועידה. ג'ון לוגן מאילינוי קיווה להיות המועמד מטעם ה"איתנים". בליין לא היה בטוח בנוגע לניסיונו להיבחר בפעם השלישית, ואפילו ניסה לעודד את הגנרל ויליאם טקומסה שרמן (אחיו הגדול של ג'ון) לנסות להתמודד, אולם לבסוף הסכים בליין לנסות לרוץ שוב.
לאחר הסיבוב הראשון, בליין הוביל עם 334.5 קולות. הוא עדיין לא השיג את 417 הצירים הנחוצים, אולם הוביל בהרבה על ארתור, שהגיע למקום השני עם 278 קולות. צירי ארתור לא רצו את בליין כמועמד, ולכן השניים התחרו על הצירים הנותרים. בליין הצליח להשיג תמיכה כשלוגן ושרמן פרשו לטובתו וחלק מהצירים של אדמונדס עברו אליו גם כן. בניגוד לוועידות הקודמות, הפעם התנופה שצבר בליין לא עצרה. בסיבוב הרביעי, הוא קיבל 541 קולות וקיבל את מועמדות המפלגה. לוגן נבחר לסגנו.
מסע בחירות מול קליבלנד.