Kun sisällissota syttyi huhtikuussa 1861, Grant värväytyi Illinoisin 21. vapaaehtoisjalkaväkirykmenttiin, jossa hänestä tehtiin eversti ja rykmentin komentaja. Pian tämän jälkeen Grant kävi joukkoineen ensimmäisen taistelunsa, kun Grant hyökkäsi Konfederaation joukkoja vastaan Missourissa. Myöhemmin saman vuoden kesänä presidentti Abraham Lincoln teki Grantista prikaatikenraalin. Grant tuli tunnetuksi ympäri Unionia, kun hän löi Konfederaation joukot Fort Henryssä ja Fort Donelsonissa. Kun Konfederaation komentaja kysyi Fort Donelsonin taistelun lopussa Grantilta antautumisen ehtoja, tämä lausui kuuluisat sanansa: "No terms except an unconditional and immediate surrender can be accepted" (). Grant sai tästä lempinimensä "Unconditional Surrender". Huhtikuussa Konfederaation joukot yllättivät Grantin Tennesseessä, ja tämän joukot kärsivät suuria tappioita. Grant sai kuitenkin apuvoimia ja pakotti Konfederaation joukot vetäytymään seuraavana päivänä. Vaikka voitto olikin Unionille strategisesti hyvin tärkeä, monet syyttivät Grantia liian suurista tappioista. Lincoln kuitenkin seisoi Grantin rinnalla: hän arvosti Grantin aggressiivista sodankäyntiä, joka pakotti Konfederaation puolustuskannalle. Grantin omalaatuinen käyttäytyminen taisteluiden keskellä ällistytti lähes kaikki hänen seurassaan olleet; hän pysyi koko taistelun ajan tyynenä, poltteli sikareita, antoi komentajilleen yksinkertaisia ohjeita eikä muuten puuttunut näiden taisteluihin.