Mekka ligger på en høyde av 280 m over havet, og omtrent 80 km inn i landet fra Rødehavet. Det sentrale Mekka ligger i en forsenkning mellom to fjellkjeder. Området inneholder dalen Al Taneem, Bakkahdalen og dalen Abqar. Dette fjellandskapet har definert den moderne utvidelsen av byen. Sentrum i byen ligger i Masjid al-Haram-området, som ligger noe lavere enn resten av byen. Området rundt moskeen utgjør gamlebyen, hvor de viktigste gatene er og nord for moskeen, og i sør. Da saudiaraberne utvidet den store moskeen i sentrum av byen ble det som en gang var hundrevis av hus erstattet med brede avenyer og torg. Tradisjonelle boliger er bygget av lokal stein og er generelt to til tre etasjer høye. Det totale arealet av Mekka i dag er km².