Anthrax ble stiftet i New York i midten av 1981 av de to gitaristene Scott Ian Rosenfeld og Danny Lilker. Navnet Anthrax kom de fram til etter å ha slått opp i en biologibok. De valgte Anthrax (norsk: miltbrann) fordi de syntes navnet hørtes både ondt og kult ut på en gang. Den første vokalisten ble John Connelly (kjent fra Nuclear Assault). Trommeslageren Paul Weiss kom også med og den første bassisten ble Kenny Kushner, som dog viste seg å ikke være god nok for bandet. Kushner ble byttet ut med Paul Kahn, men heller ikke han hadde den erfaringen bandet krevde. Dette resulterte i at Danny Lilker tok over rollen som bassist, og Greg Walls kom inn som andregitarist. Etter kort tid forlot John Connelly og Greg Weiss Anthrax og Greg D'Angelo tok over som trommeslager. Flere vokalister var innom bandet, men Neil Turbin ble den første faste vokalisten.