Noen mener at den ble ført dit av et mongolsk folk som skal ha innvandret til disse øyene et par hundre år før Kristus, andre at den kom enda tidligere. Skjeletter som er funnet etter flere tusen år gamle hunder i de østre delene av Asia, viser at typen ikke har forandret seg i særlig grad. Shiba er også nært beslektet med chow-chow, kanskje som progenitor.