Carlyle ble kjent for et større publikum i oktober 1994 da han spilte morderen Albie Kinsella i en episode av krimserien med Robbie Coltrane som motspiller. Rollefiguren hans drepte fem personer, inkludert David Bilborough, spilt av Christopher Eccleston. Han fikk deretter rollen som politimannen Hamish Macbeth fra det skotske høylandet, i en komedie-dramaserie på BBC som også het . I 1994 spilte han dessuten den homofile elskeren Graham til hovedpersonen i filmen .