I 1981 fikk han et eksemplar av Los Angeles-bandet Black Flags EP av vennen Mitch Parker. Han ble rast en stor fan og begynte å brevveksle med bandet. Da Black Flag hadde en turne på østkysten og spilte i Washington, DC og New York City var Rollins på så mange konserter han klarte å få med seg. På en av konsertene spurte han om å få synge på «Clocked In». Ettersom vokalist Dez Cadena på dette tidspunktet skulle gå over til å spille gitar ble Rollins invitert til en øving. De ble imponerte over sceneopptredenen hans og spurte om han ville bli fast vokalist, noe han, på tross av en viss tvil, takket ja til, delvis etter å ha blitt oppmuntret av Ian MacKaye. Det høye energinivået og den intense personligheten gjorde ham til en perfekt frontfigur.