Jebel Musa er 842 meter høy. I nord, på andre siden av Gibraltarstredet, ligger Spania og det britiske oversjøiske territoriet Gibraltar. I øst for fjellet er Ceuta, en spansk eksklave og i vest og sør er Marokko. Langs landeveien er fjellet rundt 22 km vest for Ceuta og rundt 72 km øst for Tanger.