Carroll ga ut sin første diktsamling i 1967, mens han fremdeles var student. I 1970, etter at hans andre diktsamling ble publisert, begynte han å jobbe for Andy Warhol først som dialogforfatter for Warhols filmer, og senere som nestleder for Warhols teater-produksjon.