שרמן נעשה מקורב מאוד לגנרל גרנט, וזמן קצר לאחר קרב שילה הוא שכנע אותו לא להתפטר - אף על פי שגרנט היה מסוכסך עם מפקדו, גנרל הנרי האלק, וסבל מתדמית של שיכור. גרנט ושרמן המשיכו לשתף פעולה ולנצח בקרבות, ובהם המצור על ויקסבורג, ובשנת 1864 הנשיא לינקולן מינה את גרנט למפקד צבא הצפון, ושרמן מונה למפקד החזית המערבית (התפקיד הקודם של גרנט). שרמן ניהל את הלחימה באמצעות תמרונים נרחבים, ובקיץ 1864 הצליח לכבוש את העיר אטלנטה שבמדינת ג'ורג'יה. לאחר כיבוש אטלנטה, בחר שרמן לנסות לחצות את ג'ורג'יה ולנתק את קווי האספקה של הקונפדרציה. ב-15 בנובמבר עזב את אטלנטה, וב-10 בדצמבר הגיעו כוחותיו לפאתי עיר הנמל סוואנה. במהלך המערכה הזאת, שזכתה לכינוי "הצעדה אל הים" (The March to the Sea), נקט שרמן בשיטות מבצעיות ייחודיות; ראשית, הקפיד לנוע באופן שמאפשר לו להתקדם ליותר מיעד ברור אחד; בכך הביא את לפיזור כוחות הדרום ולצמצום ההתנגדות. שנית, התנתק שרמן מקווי הלוגיסטיקה הצפויים - מסילות הברזל - והקצה כוחות לאיסוף מזון מהשטח; בכך איפשר לעצמו לפעול בגמישות ובמהירות לא אופיינית. המדיניות האלימה כלפי האוכלוסייה האזרחית הפכה אותו לאישיות שנויה במחלוקת ושנואה על ידי תושבי הדרום, עד היום. לעומתם, העבדים השחורים ששיחרר מאחוזות הדרום העריצו אותו כגיבור, בין היתר בגלל פקודתו הידועה: "40 אקרים ופרד". ניצחונותיו של שרמן קירבו את סוף המלחמה, והפכו אותו לאחד הקצינים החשובים ביותר שלחמו בה.