Bandets originale medlemmer var Adam Yauch på bass, Kate Schellenbach på trommer, John Berry gitar, og Michael Diamond (Mike D) vokalist. Deres første opptreden var på Adam Yauchs 17-årsdag. Samme året spilte de inn sin første EP, som fikk navnet som var et tidlig eksempel på New York hardcore. Den kom på 7" vinyl.