Hennes mest kjente rolle på TV er som detektiven Barbara Havers i en fjernsynstilpasning på BBC av kriminalserien om Thomas Lynley av Elizabeth George. Small gikk på Kinghorn Primary School og Balwearie High School i Kirkcaldy, selv om hun ikke deltok i noen av skolens musikaler fordi hun var for sjenert. Etter å ha flyttet til London, studerte Small drama ved Mountview Academy of Theatre Arts, hvor hun ble uteksaminert i 1989.