Bandet dateres tilbake til 1988, da Kirk Windstein ble med i hardcore punk-bandet i New Orleans. Her møtte han Jimmy Bower, som var trommis, og de to ble snart venner. Bandet kollapset da Mike Hatch begikk selvmord i 1988. Bandet erstattet Hatch med Kevin Noonan, og fortsatte under navnet , som spilte en form for mørk hardcore punk blandet med doom metal. Under dette navnet gav de ut en demo i midten av 1989, og endret navn til , da Mike Savoie, bassisten, sluttet i bandet, og begynte å lage musikkvideoer for Crowbar, Down og Pantera. Todd Strange ble med i bandet som en erstatning. I 1990 endret de igjen navn til The Slugs, og gav ut en demo i midten av 1990, men bandet kollapset. Kirk vurderte å bli gitarist for Exhorder, men han og Todd bygde bandet opp fra bunnen igjen, med Craig Nunenmacher som trommis, og Kevin Noonan på gitar. Bandet endret navn til Crowbar midt i 1991.