Grått fjellengfly er vidt utbredt i nordlige og høyereliggende områder. Den finnes i fjellområder i Europa og Asia (blant andre Pyreneene, Alpene, Balkan, Altajfjellene og Tian Shan), i høylandet og de utenforliggende øyene i Skottland, på Island (en antatt bestand på Færøyene har vist seg å være en annen art), Grønland og det nordlige Nord-Amerika. Det finnes trolig en fast bestand i Adventdalen på Svalbard. I Norge forkommer den i fjellområdene i Sør-Norge, det er også et gammelt funn fra indre Troms.