הרלאן היה ידיד קרוב של הנשיא אברהם לינקולן ושל משפחתו. ב-1865, לאחר רצח לינקולן, הוא התפטר מהסנאט והתמנה כמזכיר הפנים של ארצות הברית בממשלו של הנשיא החדש אנדרו ג'ונסון, תפקיד בו הוא כיהן עד 1866. כמזכיר הפנים הוא הכריז שבכוונתו לבצע "ניקוי אורוות" ופיטר מספר ניכר של פקידים שכמעט ולא תפקדו במשרותיהם. הוא עשה זאת לאחר שבסוף מאי 1865 הוא ביקש לקבל רשימה של כל עובדי מחלקת הפנים שהביעו דעות בלתי נאמנות מאז קרב פורט סאמטר, שלא היו ידועים כמחזיקי רגשות נאמנים או שהיו בקשר עם אנשים שהיו ידועים כבלתי נאמנים, שהיו בלתי יעילים או לא נחוצים לביצוע תפקידי ציבור, וכל האנשים "שהתנהגו בזלזול בהתנהלותם, בהרגליהם, ובקשריהם החברתיים, כלפי כללי הנימוס וההגינות של התרבות הנוצרית".