Gråsidemusa er tilpasset nordlige og høyereliggende strøk. Etter istiden vandret den inn i Norge fra nordøst og spredte seg sørover. Den er trolig den vanligste musearten i Nord-Norge. I Sør-Norge finnes den opp på snaufjellet til ca. 1200 meters høyde.