שרמן מונה למפקד בכיר בדרגת קולונל, והשתתף בקרב הראשון של המלחמה, קרב בול-ראן (21 ביולי 1861), כמפקד רגימנט חיל רגלים. שרמן מילא את תפקידו בהצטיינות, אבל בעקבות תבוסת הצפון בקרב הוא פנה לנשיא אברהם לינקולן, וביקש להשתחרר מתפקיד פיקודי בכיר. לינקולן סירב, קידם אותו לדרגת בריגדיר ג'נרל ומינה אותו למפקד יחידה שהוצבה במדינת קנטקי. במהלך שירותו בקנטקי הוא עבר משבר נפשי קשה, ונשלח לתקופת החלמה קצרה באוהיו. שישה חודשים אחרי חזרתו הוא השתתף בקרב שילה (6 - 7 באפריל 1862) כסגנו של הגנרל יוליסס גרנט, בדרגת מייג'ור גנרל. במהלך הקרב - שנערך בדרום-מערב מדינת טנסי - שרמן נפצע פעמיים, ונאלץ להחליף ארבעה סוסים, לאחר שנורו.