Mahmood flyttet fra Pakistan til Norge som tenåring. Han har studert samfunnsøkonomi ved Universitetet i Oslo. Han har også jobbet som journalist. Han har hatt en rekke verv i organisasjonslivet, blant annet i Pakistan Workers Welfare Union, bedriftsforsamlingen i Oslo Sporveier og Oslo skolestyre. Mahmood meldte seg inn i Høyre i 1979, og ble for første gang innvalgt i bystyret i 1984. Han meldte overgang til Arbeiderpartiet etter debatten om det omstridte innvandrerregnskapet på 1990-tallet.