ב-4 במרץ 1861 הושבע אברהם לינקולן כנשיא ארצות הברית. אחד מצעדיו הראשונים היה למנות את סנאטור סלמון צ'ייס מאוהיו כמזכיר האוצר. ב-7 במרץ התפטר צ'ייס מהסנאט ולאחר שבועיים בהם לא הצליחו להגיע לידי החלטה, בחרו חברי אספת המחוקקים של אוהיו בשרמן לכהן במקומו כסנאטור. הוא החל לכהן בסנאט ב-23 במרץ, כאשר הסנאט נקרא למושב מיוחד כדי לדון במשבר הפרישה. בסנאט שהתכנס לאחר הבחירות הללו היה רוב רפובליקני בפעם הראשונה, רוב שאף גדל יותר כאשר הסנאטורים ממדינות הדרום התפטרו או הורחקו. באפריל ביקר בוושינגטון אחיו של שרמן, ויליאם שרמן, כדי להתגייס מחדש אל הצבא והאחים הגיעו יחדיו אל הבית הלבן כדי לפגוש את הנשיא לינקולן. לינקולן קרא לגיוסם של 75,000 אנשים תוך שלושה חודשים כדי לדכא את המרד, וויליאם שרמן היה סבור שדרישה זו מצומצמת מדי בכמות האנשים והזמן שנדרש ליישומה היה ארוך מדי. מחשבותיו של ויליאם שרמן על המלחמה השפיעו מאוד על אחיו ג'ון, ששב הביתה לאוהיו כדי לעודד את המתגייסים, ולזמן קצר שירת כקולונל ללא תשלום בכוח המתנדבים של אוהיו.
מימון המלחמה.
ההוצאות של מלחמת האזרחים הכניסו עד מהרה את הממשלה למתח. שרמן, שמונה כחבר בוועדת הכספים של הסנאט, היה מעורב בתהליך הגדלת ההכנסות. ביולי 1861 העניק הקונגרס לממשלה את הסמכות להנפיק "שטרות דרישה" , שטרות הכסף הראשונים שהונפקו באופן ישיר על ידי ממשלת ארצות הברית. את השטרות היה ניתן לפדות על פי דרישה בזהב או בכסף, אך כפי שציין שרמן בזכרונותיו, הם לא פתרו את המחסור בהכנסות, שכן לרשות הממשלה לא עמדה כמות מספקת של מטבעות במקרה שכל השטרות יוצגו לפרעון. כדי לפתור את הבעיה, ביקש צ'ייס מהקונגרס סמכות להנפיק 150 מיליון דולר באיגרות חוב, ומאחר שהבנקים רכשו אותם בזהב, הצליח האוצר למלא את קופתו. הקונגרס גם ביקש להגדיל את ההכנסות כאשר הוא העביר את חוק ההכנסה של 1861 , שעל פיו נגבה מס הכנסה בפעם הראשונה בהיסטוריה של ארצות הברית. שרמן תמך בחוק, ואף טען שיש להטיל מס בשיעור גבוה יותר מזה שהוגדר בחוק (3% על הכנסה מעל 800 דולר), והעדיף להגדיל את ההכנסות במיסים על פני לקיחת הלוואות. באוגוסט הסתיים המושב המיוחד של הקונגרס ושרמן שב שוב למנספילד כדי לקדם את תהליך הגיוס לצבא.
כאשר שב הקונגרס לוושינגטון בדצמבר אותה שנה, המשיכו שרמן וועדת הכספים במאמציהם לפתור את המשבר הפיננסי שהלך והחמיר בשל המלחמה. המצב הפיננסי המשיך להחמיר, וכתוצאה מכך באותו חודש השעו הבנקים את התשלומים בזהב או בכסף, כלומר, סירבו לפדות שטרות במטבעות. הזהב החל לצאת מהמחזור. כשחצי מיליון חיילים היו בחזית, הממשלה הוציאה את הסכום חסר התקדים של שני מיליון דולר ליום. שרמן הבין ש"חייב להתבצע שינוי רדיקלי בחוקים הקיימים הנוגעים למטבע שלו, או... חורבן האיחוד יהיה בלתי נמנע...". מזכיר האוצר צ'ייס הסכים לכך והציע שמחלקת האוצר תנפיק שטרות כסף מטעמה שניתן יהיה לפדות אותם, אך לא במטבעות אלא באיגרות חוב ממשלתיות בריבית של 6%. השטרות היו "הילך חוקי לתשלום כל סוגי החובות". קודם לכן רק מטבעות זהב וכסף שימשו בארצות הברית כהילך חוקי, אך הקונגרס ויתר לטובת צורכי המלחמה, וכתוצאה מכך חוקק חוק ההילך החוקי הראשון של ארצות הברית בשני בתי הקונגרס. החוק הגדיר את כמות השטרות, שמאוחר יותר נודעו בכינוי "ירוקי הגב" (greenbacks) ל-150 מיליון דולר, אך שני חוקי הילך חוקי נוספים שחוקקו באותה תקופה העלו את המגבלה ל-450 מיליון דולר. הרעיון של הפיכת שטרות כסף להילך חוקי היה שנוי במחלוקת, וויליאם פיט פסנדן ממיילן, יושב ראש ועדת הכספים של הסנאט, היה בין אלו שהתנגדו להצעה. שרמן לא הסכים עמו ותמך ברעיון. בזכרונותיו הוא הגן על עמדתו כצורך חיוני, באומרו, " החל מחקיקת חוק ההילך החוקי, שבו הוגדרו אמצעים לניצול עושרה של ארצנו לטובת דיכוי המרד, חל מפנה במהלך המלחמה לטובתנו".
הרפורמה במערכת הפיננסית הלאומית המשיכה עד 1863, כאשר חוקק חוק הבנקאות הלאומית. חוק זה, שהוצע לראשונה על ידי צ'ייס ב-1863, והוגש לסנאט על ידי שרמן שנתיים לאחר מכן, הוביל להקמתם של בנקים פרטיים בזיכיון הממשלה שבסמכותם היה להנפיק שטרות בתיאום עם מחלקת האוצר, והחליפו, אם כי לא באופן מוחלט, את מערכת הבנקים בזיכיון המדינות, שהתקיימה אז. אף על פי שהמטרה המידית לצעד זה היה מימון המלחמה, הכוונה הייתה שחוק הבנקאות הלאומית יישאר קבוע, והוא אכן נשאר בתוקף עד 1913. ב-1865 הוטל מס של 10% על שטרות המדינות כדי לעודד מעבר למערכת הבנקאות הלאומית. שרמן הסכים עם צ'ייס בכל ליבו וקיווה שמערכות הבנקאות המדינתיות תחוסלנה. שרמן האמין שמערכת הפיקוח של המדינות הייתה בלתי יעילה ולא הייתה מסוגלת לאפשר את רמת ההלוואות שאומה מודרנית הייתה עשויה להזדקק לה. הוא גם היה סבור שהנפקת השטרות על ידי המדינות מנוגדת לחוקה. לא כל הרפובליקנים הסכימו עם דעותיו של שרמן, וכאשר החוק עבר בסופו של דבר בסנאט, הייתה ההצבעה על חודם של שני קולות עם 23 תומכים ו-21 מתנגדים. ב-25 בפברואר 1863 חתם הנשיא לינקולן על החוק.
שחרור העבדים והשיקום.
לצד מעורבותו בנושאים הפיננסיים, השתתף שרמן גם בדיון על ניהול המלחמה והיעדים של האומה עם סיומה. שרמן הצביע בעד חוק ההחרמה של 1861 , שהעניק לממשלה את הסמכות להחרים כל רכוש שנעשה בו שימוש לתמיכה במאמץ המלחמתי של הקונפדרציה (כולל עבדים) וכן הוא הצביע בעד החוק לביטול העבדות במחוז קולומביה. הוא גם הצביע בעד חוק ההחרמה של 1862 , שבו הובהר שעבדים ש"הוחרמו" על פי החוק של השנה הקודמת, היו לבני חורין. ב-1864 הצביע שרמן בעד חקיקתו של התיקון ה-13 לחוקת ארצות הברית, שעל פיו בוטלה העבדות לחלוטין. התיקון עבר לאחר כמה מאמצים בקונגרס ובשנה שלאחר מכן הוא אושרר על ידי המדינות.
כאשר הסתיים מושב הקונגרס, פעל שרמן במסגרת מערכת הבחירות באוהיו ובאינדיאנה של הנשיא לינקולן לבחירתו מחדש. ב-1865 הוא נכח בהשבעתו השנייה של לינקולן, ולאחר מכן נסע לסוואנה, ג'ורג'יה, כדי לפגוש את אחיו ויליאם, שהגיע לשם לאחר הצעדה אל הים של צבאו. משם הוא שב באפריל לביתו שבמנספילד, ושם נודע לו על רצח לינקולן, ימים ספורים לאחר כניעת הקונפדרציה. הוא היה שוב בוושינגטון במצעד הגדול של הארמיות ואז שב לביתו עד לדצמבר, אז התכנס הקונגרס שוב. במהלך הקיץ לא התקיים מושב מיוחד של הקונגרס, והנשיא אנדרו ג'ונסון, יורשו של לינקולן, נטל את הנהגת השיקום של הדרום שנכבש, למורת רובם של רבים בקונגרס. בין שרמן לבין ג'ונסון שררו יחסי ידידות, וכמה משקיפים קיוו ששרמן יוכל לשמש כמקשר בין ג'ונסון לבין אנשי האגף הרדיקלי של המפלגה. בכל אופן, בפברואר 1866 תקף ג'ונסון בפומבי את הרדיקלים הללו, שדרשו שיוטלו עונשים כבדים על המורדים ושתנקט פעולה על ידי הממשל הפדרלי לסיוע לעבדים המשוחררים. בחודש לאחר מכן הטיל ג'ונסון וטו על חוק זכויות האזרח , שעבר בקונגרס ברוב סוחף. שרמן הצטרף לאלו שתמכו בהעברתו מחדש של החוק לנוכח הווטו של הנשיא. באותה שנה הצביע שרמן בעד התיקון ה-14 לחוקת ארצות הברית, שהבטיח הגנה בחסות החוק על זכויותיהם של העבדים המשוחררים באופן שוויוני. ב-1868 חוקק חוק על סמך תיקון זה.
באותה תקופה מצא הנשיא ג'ונסון את עצמו במצב שרוב נציגי הרפובליקנים בקונגרס, כולל שרמן, עוינים אותו. שרמן, שנמנה עם החוגים המתונים במפלגה, חבר לרדיקלים בהצבעה על חוק הקביעות במשרה, שעבר על אף הווטו של ג'ונסון ב-1867, אך בדיון על חוק השיקום הראשון הוא התנגד לשלילת זכויות האזרח של אנשי הדרום המורדים. חוק זה, שנועד לבטל תנאי זה, עבר גם הוא על אף הווטו של ג'ונסון. העימות המתמשך בין ג'ונסון לבין הקונגרס הסלים במשפט ההדחה שנערך נגדו ב-1868. לאחר המשפט שנערך לג'ונסון בסנאט, הצביע שרמן בעד הרשעתו של הנשיא, אך הרוב שהושג לא היה הרוב הנדרש של שני-שלישים מהקולות, וג'ונסון המשיך בכהונתו. מאוחר יותר כתב שרמן שאף על פי שהוא "חיבב את הנשיא באופן אישי ולא היו בליבו שום דעה קדומה או רגשות עוינים שחשו כלפיו אחרים", הוא היה סבור שג'ונסון הפר את חוק הקביעות במשרה ולפיכך הצביע בעד הדחתו.
עם בחירתו לנשיאות של יוליסס סימפסון גרנט ב-1868, היה לקונגרס שותף נוח יותר בתהליך השיקום. הקונגרס העביר את התיקון ה-15 לחוקת ארצות הברית, שהבטיח שזכות הבחירה לא תוגבל משיקולים של גזע. שרמן הצטרף לרוב של שני השלישים שהצביעו בעד התיקון. בהמשך העביר הקונגרס את חוק האכיפה שאכף את תיקוני החוקה בנוגע לזכויות האזרח בקרב אוכלוסיית הדרום העוינת. בשנה שלאחר מכן העביר הקונגרס את חוק הקו קלוקס קלאן, שחיזק את חוק האכיפה באמצעות מתן סמכות לעריכת משפטים פדרליים ושימוש בכוחות צבא פדרליים. שרמן הצביע בעד שני החוקים, שזכו לחתימתו המהירה של גרנט.
המצב הפיננסי לאחר המלחמה.