ב-26 באפריל 1875 מינה הנשיא גרנט את פיירפונט כתובע הכללי של ארצות הברית. כאיש המפלגה הדמוקרטית לשעבר, נתקל פיירפונט בקשיים להשתלב בממשלו של גרנט, שכן נוצרו מתחים במהלך כהונתו בשל העמדתם לדין של המעורבים ברשת וכתב האישום שהוגש נגד מזכירו האישי של גרנט, גנרל מלחמת האזרחים אורוויל בבקוק. פיירפונט, שהיה מוביל רפורמות, קיבל מגרנט יחד עם מזכיר האוצר בנג'מין בריסטו משימה לטהר את הממשל משחיתות. בריסטו גילה שמזקקי ויסקי חברו לגורמים בממשל שסייעו להם להתחמק מתשלום מס על הכנסותיהם. פיירפונט היה מעורב בתהליך השיקום, שכן הנשיא גרנט ניהל את מדיניותו בדרום באמצעות מחלקת המשפטים ומחלקת המלחמה. במונחים של שיקום הדרום, פיירפונט המשיך את השהיית הפעילות של קודמו בתפקיד, ג'ורג' הנרי ויליאמס של העמדה לדין בתיקי זכויות אדם ובאופן כללי הוא לא הגיב למתקפות האלימות או לפגיעות של תושבי הדרום כנגד האפרו-אמריקאים. פיירפונט היה יותר מודאג בנוגע להשבתם על כנם של "ההשפעה הבינלאומית וכוחה הפוליטי" של ארצות הברית לאחר מלחמת האזרחים והוא נודע בעיקר בשל מהלכיו בנוגע לחוק הבינלאומי, חוקי ההתאזרחות, והליכי הסגרה.