מקינלי הצטרף לקונגרס באוקטובר 1877, כשהנשיא הייז כינס את הקונגרס לישיבה מיוחדת. הרפובליקנים היו במיעוט ומקינלי עסק בעיקר בדברים לא חשובים בוועדות. חברותו עם הייז לא סייעה לו, בגלל חוסר הקשר של הייז לרבים בגבעת הקפיטול. חבר הקונגרס הצעיר התעמת מול הייז בנושא המטבע, אולם החברות שלהם נותרה בעינה. ב-1873 עברה ארצות הברית בפועל לתקן הזהב. מחירי הכסף צנחו ורבים ביקשו להפוך את הכסף להילך חוקי במעמד שווה לזהב. התהליך היה אינפלציוני, ורבים טענו שהעלאת כמות הכסף תתרום לכלכלה. היריבים טענו שהכסף החופשי יפגע בארצות הברית מבחינת הסחר הבינלאומי. מקינלי תמך בחוק שאישר לממשלה לרכוש כמויות גדולות של כסף ולהפוך אותו למטבעות, וגם הצטרף לרוב הגדול שביטל את הוטו של הייז על החוק. בכך התנגד לעמדתו של מנהיג הרפובליקנים בבית הנבחרים, חברו מאוהיו, ג'יימס גרפילד.
החל מכהונתו הראשונה בקונגרס, תמך מקינלי במכסי מגן. מטרתם לא הייתה להעלות את ההכנסה הממשלתית אלא לסייע לתעשייה האמריקנית להתפתח ולתת לה יתרון מחירים על פני מתחרים חיצוניים. ביתו של מקינלי באוהיו שגשג בעיקר בזכות הפרוטקציוניזם שהגן על הייצור שם, מה שעיצב את השקפת עולמו של מקינלי. מקינלי תמך בחוקים להעלאת מכסי המגן והתנגד למכסים לשם הכנסה בלבד או להורדתם. כשגרפילד נבחר לנשיאות ב-1880, נבחר מקינלי להחליפו בוועדת המיסים, לאחר שתי כהונות בלבד.
מקינלי הפך לדמות משמעותית בפוליטיקה. ב-1880, שירת כהונה קצרה כנציג אוהיו בוועידה הרפובליקנית הלאומית. ב-1884 נבחר כציר לוועידה הלאומית וזכה לשבחים על ניהולה. ב-1886, נחשבו מקינלי, המושל ג'וזף פורקר והסנאטור ג'ון שרמן למנהיגי המפלגה באוהיו. שרמן ניסה להתמודד על הנשיאות ב-1880 אולם נכשל בהשגת המועמדות. פורקר החל להתקדם בפוליטיקה המקומית. האנה, שנכנס לפוליטיקה כתורם נדיב, תמך בשרמן ובפורקר. אולם בוועידה הרפובליקנית ב-1888 היחסים ביניהם התפרקו. מקינלי, האנה ופורקר תמכו בשרמן כמועמדם לנשיאות, וכשהתברר ששרמן לא יכול לנצח, החליט פורקר לתמוך דווקא בג'יימס בליין, הסנאטור ממיין והמועמד הנשיאותי ב-1884. בליין סירב להיות מועמד, ופורקר חזר לשרמן, אולם המועמד שנבחר היה הסנאטור מאינדיאנה, בנג'מין הריסון, שנבחר לנשיאות. האנה נטש את פורקר, ולמשך שארית חייו של מקינלי, התפלגה המפלגה באוהיו בין הפלג של מקינלי, שרמן והאנה לבין הפלג של פורקר. האנה העריץ את מקינלי והפך ליועצו הקרוב.
ב-1889, כשהרפובליקנים השיגו רוב, ביקש מקינלי להיבחר לתפקיד יושב ראש בית הנבחרים. הוא לא הצליח להיבחר, אולם יושב הראש תומאס ריד מינה אותו ליושב ראש ועדת המיסים. מקינלי הגיש את "מיסוי מקינלי" ב-1890, אף על פי שהסנאטורים שינו את הצעתו, שהעלה מכס על ייבוא.
שינוי מחוזות וכישלון בבחירה מחדש.
הדמוקרטים זיהו את הפוטנציאל של מקינלי, ולכן כששלטו במועצה המחוקקת, שינו את מחוזות הבחירה כדי להקטין את סיכוייו להיבחר מחדש. ב-1878, נאלץ מקינלי להתמודד במחוז ששורטט מחדש, אולם בכל זאת ניצח לשמחתו של הנשיא הייז. לאחר הבחירות של 1882, הפסיד מקינלי את מקומו. הוא נכנס לדיכאון קצר, אולם נשבע שיתמודד שוב. הדמוקרטים שינו שוב את המחוזות לקראת הבחירות של 1884, אולם מקינלי נבחר שוב לקונגרס בכל מקרה.
ב-1890, הדמוקרטים שינו שוב פעם את מחוזות הבחירה בגלל מקינלי, והפעם שרטטו מחוז דמוקרטי במיוחד. רבים חשבו שהדמוקרטים ישיגו רוב של בין 2,000 ל-3,000 קולות. הרפובליקנים לא יכלו לשנות את המחוז לפני הבחירות למועצה המחוקקת ב-1891, אולם הקפידו להשקיע במירוץ, בעיקר בשל תשומת הלב הדמוקרטית לחוקי המכס שהעביר מקינלי. הרפובליקנים שלחו את טובי דובריהם אל המחוז, כולל את בליין (מזכיר המדינה של ארצות הברית), יושב הראש ריד והנשיא הריסון. הדמוקרטים שלחו את טובי דובריהם גם הם, ומקינלי נאם בפני 40,000 בוחרים כדי להגן על המכס. הוא טען שהמכס עוזר לעם, מגן על התעשייה, מגן על העובדים ומבטיח שכר וחינוך ראויים.
הדמוקרטים בחרו בג'ון וורוויק, סגן המושל לשעבר, ושכרו נערים שימכרו כלי פח בשווי עשרים וחמישה סנטים בחמישים סנטים, בטענה שהמכס אחראי להעלאת המחירים. בסופו של דבר, הפסיד מקינלי בהפרש של 300 קולות, אולם הרפובליקנים זכו לרוב במדינה.
מושל אוהיו (1892-1896).
אפילו לפני שמקינלי גמר את כהונתו בקונגרס, היו תושבים רבים שהפצירו בו לרוץ לתפקיד המושל. המושל הדמוקרט ג'יימס קמפבל ניצח את ג'וזף פורקר ב-1889, ורצה להיבחר מחדש ב-1891. המפלגה הרפובליקנית באוהיו נותרה מפולגת, אולם מקינלי סידר שפורקר יתמוך בו בוועידה של 1891, בה ניצח. חבר הקונגרס לשעבר השקיע את המחצית השנייה של 1891 במסע בחירות מול קמפבל. האנה לא היה מעורב במערכת הבחירות אלא השקיע את רוב זמנו בגיוס תרומות עבור היבחרם של מחוקקים שהבטיחו לתמוך בשרמן לסנאט ב-1892 (לפני העברת התיקון השבעה עשר לחוקת ארצות הברית, הסנאטורים נבחרו בידי המועצה המחוקקת). מקינלי נבחר ב-1891 בהפרש של 20,000 קולות. בינואר, הצליח שרמן, בעזרת האנה, להיבחר במועצה המחוקקת לעוד כהונה בסנאט על פני פורקר.
למושל אוהיו לא היה הרבה כוח - למשל, הוא יכול היה להמליץ על חקיקה, אולם לא להטיל עליה וטו - אולם אוהיו הייתה מדינה מתנדנדת ועשירה באלקטורים, והמושל שלה השפיע על הפוליטיקה הלאומית. אף על פי שמקינלי האמין שבריאות המדינה תלויה בבריאות העסקים שלה, הוא היה מוכן לפשרות עם הפועלים. הוא תמך בחקיקה שקבעה מוסד בוררות ליישוב סכסוכי עבודה והוסיף פסקה לחוק שקנסה מעסיקים שפיטרו עובדים עקב שייכותם לאיגוד.
הנשיא הריסון לא היה אהוד במיוחד. בתחילת השנה 1892 הייתה המפלגה הרפובליקנית מפולגת והריסון ניסה להיבחר מחדש. אף על פי שאף מועמד לא הכריז על התנגדותו להריסון, רפובליקנים רבים היו מוכנים להחליף את הנשיא אם תהיה אלטרנטיבה. בין המועמדים היו מקינלי, ריד ובליין המבוגר. מתוך חשש שמושל אוהיו יהפוך למועמד, ארגנו תומכי הריסון שמקינלי ינהל את הוועידה הרפובליקנית במיניאפוליס ודרשו ממנו להיות נייטרלי. האנה הקים מטה בלתי רשמי למקינלי ליד אולם הוועידה, אולם לא ניסו לגייס אלקטורים. מקינלי התנגד לכל תמיכה שקיבל, ולמרות זאת גמר במקום השלישי, מאחורי הריסון שנבחר מחדש ובליין, שגם הוא סירב להתמודד. אף על פי שמקינלי תמך ברפובליקנים, נוצח הריסון בידי הנשיא לשעבר קליבלנד בבחירות של נובמבר. לאחר ניצחונו של קליבלנד, רבים ראו במקינלי מועמד פוטנציאלי לנשיאות מטעם הרפובליקנים ב-1896.
לאחר חזרתו של קליבלנד לתפקיד, נקלעה המדינה למשבר כלכלי שפרץ ב-1893. איש עסקים בשם רוברט ווקר הלווה למקינלי כסף בעבר, וכהוקרת תודה, היה מקינלי ערב לחובותיו. המושל לא הסתכל על מה חתם והאמין שווקר היה איש עסקים יציב. למען האמת, ווקר הונה את מקינלי, ואמר לו שאיגרות חוב חדשות היו ישנות שתוקפן חודש. המיתון הרס את ווקר. מקינלי נאלץ לשלם את החוב מחדש בפברואר 1893. החוב היה מעל 100,000 דולר ומקינלי הציע להתפטר מתפקידו כמושל ולהרוויח את הכסף כעורך דין. במקום, החליטו תומכיו העשירים, כולל האנה, להקים קרן לתשלום החובות. ויליאם ואידה מקינלי משכנו את רכושם לקרן, שגייסה סכומים רבים של כסף. כל הרכוש הוחזר להם בסוף 1893, וכשמקינלי, שהבטיח להחזיר את החוב לציבור, ביקש את רשימת התורמים, הוא לא קיבל אותה. האוכלוסייה שסבלה מהמשבר הכלכלי הזדהתה עם מקינלי. הוא נבחר מחדש לתפקיד המושל בנובמבר 1893, וזכה לתמיכה הגדולה ביותר עבור מושל מאוהיו מאז מלחמת האזרחים.
מקינלי תמך ברפובליקנים בבחירות לקונגרס ב-1894. מועמדים רבים שתמך בהם נבחרו. בנובמבר 1895 הצליח להוביל לבחירת יורש רפובליקני בתפקיד המושל, אסא בושנל, והמועצה הרפובליקנית בחרה שוב פעם בפורקר כסנאטור. מקינלי תמך בשניהם. בתמורה, הסכים פורקר לתמוך במקינלי כשינסה להתמודד על הנשיאות. כשהמפלגה באוהיו התאחדה, החליט מקינלי לפנות אל הפוליטיקה הלאומית.
בחירות 1896.
הכנתו להתמודדות.
לאחר תבוסתו של הנשיא בנג'מין הריסון במהלך הבחירות ב-1892, הנשיא לשעבר גרובר קליבלנד חזר לבית הלבן. הריסון הכריז על שגשוג, אולם במאי 1893, משבר כלכלי גרם להמרת נכסים בזהב, שוק המניות התמוטט ופשיטות רגל רבות נגרמו. המשבר כונה "בהלת 1893". מארק האנה ותורמים עשירים אחרים חילצו את מקינלי מחובות. הציבור תמך במקינלי עקב קשייו הכלכליים ובחר בו לכהונה שנייה כמושל. הוא תמך לחלוטין בתקן הזהב. דמוקרטים רבים, וגם רפובליקנים, הרגישו שהצמדת הדולר לזהב מגבילה את הצמיחה, והעדיפו להצמיד את הדולר גם לכסף, כפי שהיה עד 1873. צעד זה יגרום לאינפלציה, כיוון שהתשלום על מטבעות כסף יהיה פי שניים משווי השוק שלהם. חקלאים רבים, שהתייאשו מהירידה במחירי התוצרת החקלאית, הרגישו שהצמדת הדולר לכסף תקל על תשלום החובות שלהם. קליבלנד תמך בתקן הזהב, והתנגד לחוקים לרכישת כסף. הדמוקרטים המערביים, כויליאם ג'נינגס ברייאן, התנגדו אליו. הקונגרס העביר ב-1894 חוק שהפחית רבים מהמכסים של מקינלי, אולם הכלכלה לא התאוששה, וקליבלנד ספג ביקורת לאחר ששלח את הצבא לשבור את שביתת פולמן.
הדמוקרטים התפלגו, והמפלגה הפופוליסטית החדשה זכתה לקולות החקלאים. מקינלי הפך לנואם מבוקש במזרח המדינה. בבחירות 1894, הרפובליקנים השתלטו על שני בתי הקונגרס.
מסע בחירות מודרני.
לא ידוע מתי התחיל מקינלי להתכונן לריצה. אולם מההתחלה היה ברור שהאנה יהיה היועץ הקרוב שלו. לאחר ששרמן ויתר על ניסיון לרוץ שוב לנשיאות לאחר 1888, החל האנה לתמוך בשאיפותיו של מקינלי.