Man har regnet med at shibaen opprinnelig stammer fra hovedøya Honshu, men typen må ha innvandret fra det sørøstre Asia, kanskje Korea. Dette er imidlertid den eneste av de japanske spisshundene som ikke opprinnelig var endemisk for et bestemt område. Den var derimot typisk for fjellstrøkene som vender mot Japanhavet. Det kan indikere at den også er den eldste av de japanske hunderasene.