Det er usikkert nøyaktig hvor langt tilbake i tiden instrumentet har vært brukt, men man vet at det eksisterte lyrer i vikingtiden; om disse ble spilt med bue eller ikke er derimot uklart. Det eldste beviset vi har for bruk av tagelharpe er et bilde av en tagelharpespiller i Nidarosdomen, utfra dette kan man regne med at instrumentet har vært i bruk i alle fall siden 1300-tallet.