Mūsā gikk ut fra Universitetet i Kairo i 1957 med en grad innen rettsvitenskap. Etter å ha jobbet et år som jurist, begynte han i 1958 som diplomat i Egypts utenriksdepartement, der han skulle klatre helt til toppen. Blant annet var han i 1974–1977 rådgiver for utenriksminister Ismail Fahmi, i 1983–86 Egypts ambassadør til India, og i 1990–91 Egypts FN-ambassadør, før han i 1991 ble Egypts utenriksminister under president Hosni Mubarak.