Bergmusa har en kroppslengde på 100 til 130 mm, og en hale som er 102 til 140 mm lang. Den er altså litt større enn storskogmus. Arten er lett å skille fra andre skogmus på den grå pelsen, og de lange værhårene.