למרות שתמך בו בתחילה, גרילי החל להתנגד לנשיא ג'ונסון, שמדיניות השיקום שלו אישרה יצירת ממשלות מהירה בדרום ללא הבטחת זכות הצבעה לעבדים משוחררים. כשהקונגרס התחיל להשתלט על שיקום המדינות, גרילי תמך בפעולותיהם, במתן זכות הצבעה כללית לזכרים, וגם במתן חנינה לאנשי קונפדרציה. הוא תמך ברפובליקנים הרדיקליים אולם התנגד לתדיאוס סטיבנס. גרילי ניסה להיבחר לקונגרס ב-1866, אולם הפסיד, וגם ניסה להיבחר לסנאט ב-1867, אולם הפסיד לרוסקו קונקלינג.