Man har avbildninger av Svenske nøkkelharper helt tilbake til 1460 i kirkemalerier (og 1408 i Siena, Italia). Instrumentet ble et vanlig folkemusikkinstrument i Uppland på 1600-tallet. I tillegg til Sverige er instrumentet kjent fra Tyskland, og det har vært antatt at den Vallonske innvandringen på 1600-tallet bidro til populariseringen, men dette er ikke bevist. Gjennom storparten av 1900-tallet minsket bruken av instrumentet, fram til 1970-tallets folkemusikkbølge ga den en renessanse.