הסנאט אישר את מועמדותו של ארתור. כגובה מכס הוא שלט באלף משרות וקיבל הטבות כמו עובד ממשלתי. משכורתו הייתה 6,500 דולרים אולם עובדי מכס קיבלו אחוז מהמטענים ומקנסות של מייבאים שניסו להתחמק מהמכס. משכורתו הייתה יותר מ-50,000 דולרים (מיליון דולר כיום), יותר מהנשיא, ואפשר לו לשפר את סגנון חייו. ארתור היה גובה מכס אהוד, הסתדר עם עובדיו ולא נאלץ לפטר אנשים רבים מפני שרוב העובדים היו נאמנים לקונקלינג. הוא היה אהוד בקרב המפלגה כיוון שתרם כספים רבים למפלגה ומינה חברים של מנהיגי המפלגה לתפקידים רבים. תומכי הרפורמה מחו על השחיתות בתפקידים. הרצון לרפורמה הוביל לכך שארתור הצהיר שהתרומות מהעובדים למפלגה יהפכו לוולונטריות ב-1872, אף על פי שהמערכת לא השתנתה, והמפלגה המשיכה ליהנות משליטה במשרות הממשלתיות. הרפובליקנים שתמכו ברפורמה תמכו במפלגה הרפובליקנית-ליברלית, אולם גרנט נבחר מחדש בקלות ב-1872, למרות ההתנגדות. התנועה לרפורמה בשירות האזרחי המשיכה לפגוע במנגנון של קונקלינג. ב-1874, נחשף שעובדי המכס הטילו קנסות לא חוקיים כדי להעלות את הכנסתם, והקונגרס הוביל חוק שהפך את משכורותיהם לקבועות. המשכורת של ארתור צנחה ל-12,000 דולר בשנה, יותר מהבוס שלו, מזכיר האוצר של ארצות הברית, אולם הרבה פחות ממה שקיבל קודם לכן.
עימות עם הייז.
כהונתו של ארתור כגובה המכס הסתיימה לאחר ארבע שנים, ב-10 בדצמבר 1875, ואז ארגן קונקלינג, שהיה בין הפוליטיקאים החזקים בוושינגטון, את חידוש כהונתו. ב-1876, שקל קונקלינג לרוץ לנשיאות, אולם היבחרו של רתרפורד הייז תומך הרפורמה חסמה את מנהיג המנגנון. ארתור והמנגנון אספו תרומות כרגיל, אולם קונקלינג הגביל את פעילותו במסע הבחירות לנאומים מעטים. יריבו של הייז, מושל ניו יורק סמואל טילדן, ניצח בניו יורק וזכה לרוב הקולות, אולם לאחר החלטה בנוגע לעשרים אלקטורים שנויים במחלוקת (ממדינות פלורידה, לואיזיאנה, אורגון וקרוליינה הדרומית) הוא הפסיד את הנשיאות וזאת אף על פי שהיה בעל ההצבעה האזרחית הגבוהה ביותר.
הייז נכנס לתפקידו כשהוא מחויב לשנות את מערכת המינויים הפוליטיים. ב-1877, בחרו הוא ומזכיר האוצר ג'ון שרמן במנגנון של קונקלינג כמטרה. שרמן ציווה על וועדה לחקור את בית המכס בניו יורק. הוועדה קבעה שבית המכס היה מלא במינויים פוליטיים, ושחמישית מעובדיו היו מיותרים. שרמן לא התלהב מהרפורמה כמו הייז, אולם אישר את הדו"ח וציווה על ארתור לפטר עובדים. ארתור מינה וועדה של עובדי המכס להכריע היכן לקצץ ולאחר שהודיע על מחאתו, ביצע את הקיצוצים. אף על פי ששיתף פעולה, פרסמה הוועדה דו"ח שני שביקר את ארתור ואת עובדי המכס האחרים, ודרש ארגון מחדש.
הייז החליט לפעול כשפרסם צו נשיאותי שאסר על מעקב פוליטי אחרי מועמדים לתפקיד, ומנע מעובדי הממשלה להשתתף בפעילויות פוליטיות. ארתור וחבריו סירבו לציית לכך. שרמן עודד את ארתור להתפטר והציע לו להפוך לשגריר בצרפת במקום, הצעה לה סירב. בספטמבר 1877, דרש הייז את התפטרותו של ארתור ושל שניים מחבריו, שסירבו לכך. הייז הגיש שלושה מועמדים חלופיים במקומם לאישור הסנאט, כולם מתנגדי קונקלינג. וועדת הסחר של הסנאט, בראשות קונקלינג, דחתה פה אחד את המועמדים. הסנאט דחה שני מועמדים ברוב של 31 מול 25, ואישר את המועמד השלישי רק כיוון שכהונתו של עובד מכס אחר הסתיימה.
ארתור נשאר בתפקידו עד יולי 1878, כשהחליט הייז לנצל את פגרת הקונגרס ולפטר אותו ואת חברו, ולהחליף אותם. הייז הציע לארתור להיות קונסול בפריז כפרס ניחומים, וארתור, כצפוי, סירב. קונקלינג התנגד למועמדים החדשים אולם כשהסנאט התכנס מחדש בפברואר 1879, הוא אישר את מועמדותם בתמיכת 31 מחבריו, והייז זכה לניצחון בניסיון הרפורמה בשירות הציבורי שלו. ארתור מיד ניצל את זמנו הפנוי וסייע לארתור קופר להיבחר לראשות עיריית ניו יורק סיטי. בספטמבר 1879 הפך ליושב ראש הוועדה הרפובליקנית של ניו יורק, בה שירת עד אוקטובר 1881. בבחירות המקומיות ב-1879, פעלו הוא וקונקלינג כדי להבטיח שהמועמדים הרפובליקניים יהיו מסיעת "האיתנים", סיעתו של קונקלינג. הם הצליחו באופן דחוק. ארתור וקונקלינג ניצלו פיצול במפלגה הדמוקרטית והצליחו לבחור במועמד מטעמם לתפקיד המושל. ארתור והמנגנון החלו לצבור כוח כנגד הייז ויריביהם המפלגתיים, אולם ב-12 בינואר 1880, מתה אשתו של ארתור כשהיה באלבני. ארתור הרגיש הרוס, ואף אשם, ולא נישא מחדש.
בחירות 1880.
סיעת האיתנים של קונקלינג ביקשה לנצל את הצלחותיה ב-1879 ולבחור ביוליסס סימפסון גרנט, הנשיא לשעבר, כמועמד הרפובליקני בבחירות של 1880. יריביהם, סיעת "בני התערובת", תמכו בג'יימס ג'ילספי בליין, סנאטור שתמך ברפורמה בשירות הציבורי. "האיתנים" תמכו במינויים פוליטיים על בסיס קשרים בעוד "בני התערובת" טענו שיש למנות מדינאים לכל משרה שהיא רק על בסיס יכולותיהם וסגולותיהם. אף מועמד לא זכה לרוב הצירים ולאחר שלושים ושישה סיבובים ללא הכרעה, בחרה הוועידה בג'יימס גרפילד, חבר קונגרס מאוהיו וגנרל במלחמת האזרחים שלא היה איתן או בן תערובת ונתמך בידי ג'ון שרמן.
גרפילד ותומכיו ידעו שיהיה להם קשה בבחירות ללא תמיכת האיתנים מניו יורק, והציעו לתת להם את תפקיד סגן הנשיא. קונקלינג ייעץ לארתור לסרב למועמדות בטענה שגרפילד יפסיד בבחירות, אולם ארתור הסכים להצעתו של גרפילד לשמש סגנו בטענה שמדובר בכבוד. קונקלינג נכנע ותמך בצמד.
כצפוי, הבחירות היו צמודות. המועמד הדמוקרטי, הגנרל וינפילד סקוט הנקוק, היה פופולרי ולא נקט עמדה בנושאים רבים, כדי לא לפגוע בתומכיו. למעשה, שתי המפלגות מתחו קו מקביל בנוגע לנושאים רבים במהלך מערכת הבחירות. הנושא המרכזי שעמד על הפרק בשביל הממשל הפדרלי נגע להגירה פדרלית, ושתי המפלגות הביעו התנגדות לה. כמו שעשו מאז סוף מלחמת האזרחים, התמקדו גרפילד וארתור בתחילה בשיטת "החולצה המדממת" - הרעיון שהחזרת הדמוקרטים לשלטון תמחק את הניצחון במלחמת האזרחים ותיתן פרס למורדים אשר בם בימים תמכו בקונפדרציית המדינות של אמריקה במהלך מלחמת האזרחים.
חמש עשרה שנה לאחר מלחמת האזרחים, כששני גנרלים מהאיחוד הובילו את המפלגות, השיטה לא עבדה כפי שהרפובליקנים רצו. הרפובליקנים החליטו להתאים את עצמם מחדש, וטענו שהדמוקרטים יפחיתו את מכסי המגן במדינה, ויגרמו לייבוא זול שיסגור מפעלים ויהפוך אלפי פועלים למחוסרי עבודה. הטיעון פעל במדינות המתנדנדות של ניו יורק ואינדיאנה, בעלות פועלי הייצור הרבים. הנקוק לא עזר לעצמו כשניסה להישאר נייטרלי וטען שהמכס היה עניין מקומי, דבר שגרם לו להיתפס כבור בנושא. מועמדים לתפקידים לא ניהלו מסע בחירות באותה התקופה, אולם כיושב ראש הוועדה הרפובליקנית המקומית, ניהל ארתור את מסע הבחירות, פיקח על מסע הבחירות בניו יורק וגייס כסף. הכסף היה חשוב במערכת הבחירות הצמודה, והניצחון בניו יורק היה קריטי. הרפובליקנים ניצחו בניו יורק בהפרש של 20,000 קולות בזכות ארתור, ובבחירות עם אחוז ההצבעה הגדול ביותר אי פעם - 78.4% - ההפרש בין המועמדים היה צמוד ביותר, רק 7,018 קולות. בחבר האלקטורים, השיגו גרפילד וארתור 214 אלקטורים לעומת 155 של הנקוק.
סגן הנשיא.
מינויים בממשל.
לאחר מערכת הבחירות, ניסה ארתור לפעול למען איוש משרות מסוימות בקבינט בידי חברי סיעת האיתנים מניו יורק, בעיקר את תפקיד מזכיר האוצר. גרפילד לא השתכנע, ומינה את בליין, אויבו של קונקלינג, לתפקיד מזכיר המדינה. ארתור וגרפילד לא היו קרובים, ונידוי חברי האיתנים מהמינויים הפוליטיים גרם לנתק ביניהם. מעמדו של ארתור בממשל נפגע כשחודש לפני השבעת גרפילד, נאם נאום בפני כתבים ממנו השתמע שאינדיאנה, שהייתה מדינה מתנדנדת, תמכה ברפובליקנים בעזרת הצבעות לא חוקיות. גרפילד מינה חבר מסיעת האיתנים, תומאס ג'יימס, לתפקיד מזכיר הדואר, אולם המאבק בקבינט ונאומו של ארתור גרמו לנתק בינו לבין ארתור כשהושבעו לתפקידם ב-4 במרץ 1881.
לאחר שנבחר, סגן הנשיא ארתור התגלה כקול מכריע למעמדה של מפלגתו בסנאט. בתחילת הקונגרס הארבעים ושבע, איזון המפלגות בסנאט היה שווה לחלוטין, מצב בו ייתכן שיהיה צורך בהצבעה של סגן הנשיא כדי לתת לרפובליקנים רוב לארגן את הגוף המנהלי ולנהל את ועדותיו. כשהסנאט התכנס לראשונה ב-4 במרץ 1881 היו 37 רפובליקנים, 37 דמוקרטים ושני עצמאיים. אחד העצמאים, שופט בית המשפט העליון לשעבר דייוויד דייוויס, הודיע ​​כי הוא מתכנן להצביע עם הדמוקרטים כדי לארגן את הלשכה. אם היה ניתן לשכנע גם את הסנאטור העצמאי האחר, ויליאם מאהון מוירג'יניה, להצטרף אליהם, הדמוקרטים היו לוקחים את הרוב. שמועות נפוצו כי הבית הלבן מחייב את מאהון ב"שמפניה ושביעות רצון", או הבטחות חסות, כדי לזכות בו עבור תמיכת הרפובליקנים. הדבר גרר התרעמות אזרחית ובעת ההצבעה על מינויו של ארתור לסגן הנשיא בידי הסנאט עלה המון זועם בחוצות מושב הסנאט בגבעת הקפיטול.