Grå gaffelstjert finnes fra Mellom-Europa, videre østover gjennom Russland til Mongolia. En nært beslektet art, finnes i Nord-Afrika. I Norge forekommer den forholdsvis vanlig i lavlandet på Sør- og Østlandet. Det finnes eldre funn fra Hordaland og Nord-Trøndelag, mens noen publiserte funn av denne arten fra Nordland har vist seg å være feilbestemminger av liten gaffelstjert ().