Faren var en fattig landarbeider og/eller smed som i 1684 flyttet til Ballyfarnon i County Roscommon for å søke arbeid, noe han fikk hos familien McDermott Roe i Alderford House. Husfruen Mary sørget for at Carolan fikk utdanning, og han viste seg å ha talent for poesi. 18 år gammel fikk han kopper og ble blind. Siden han var blitt ute av stand til å arbeide, finansierte Mary McDermott tre års læretid hos en harpespiller som også bar navnet McDermott Roe.