Arten lever i Europa nord til Skandinavia, vest til Island og Irland, og øst til Belarus og Vest-Ukraina. Den finnes også i Nordvest-Afrika, og på mange av øyene i Middelhavet. Skogmusene i det østligste Europa og Nord-Asia regnes nå til andre arter. I Norge er småskogmus vanligst på Sør- og Østlandet, men den finnes også spredt på Vestlandet nord til Møre og Romsdal. Registreringer av arten er gjort så langt nord som til Nordland.