Fjellarve har en amfiatlantisk utbredelse. I Europa finnes den i Norge, Sverige, Finland, de nordligste delene av Russland, Storbritannia, Alpene, Karpatene og i fjellene på Balkan og Den iberiske halvøy. Videre finnes den på Island, Jan Mayen, Svalbard, Grønland og i det nordøstre Canada. På Ellesmereøya og Grønland går den nord for den 80. breddegrad.