Bandet ble grunnlagt i 1980 etter at MacKaye og Nelsons gamle band The Teen Idles hadde gått i oppløsning. De var inspirerte av band som Black Flag og Bad Brains, men spilte, særlig til å begynne med, en langt råere musikk. Tekstene var politisk orientert, og tok for seg temaer som religiøs indoktrinering, A4-samfunnet og behandlingen av ungdom. Men fremfor er det sangene deres mot alkohol, dop og fyll, som , og ikke minst , som huskes. Sangen ble beskyldt for å være en rasistisk sang, noe bandet selv benektet, og viste til at den handlet om hvordan fortidens synder reproduseres i stadig nye generasjoner.