Salama werd in 1913, ten tijde van het Ottomaanse bewind over Palestina, geboren in de plaats Qula. Ten tijde van het Britse mandaat over Palestina was hij een van de Arabische bendeleiders die ten strijde trok tegen het Britse bestuur en tegen de Jisjoev, de Joodse bevolking van Palestina. Tijdens de Arabisch-Palestijnse opstand van 1936 tot 1939 was hij commandant van de "Organisatie van de Heilige Strijd" (Munazzamat al-Jihad al-Muqaddas) in het gebied rond Ramla en Lydda. In 1938 was hij verantwoordelijk voor een aanslag op de spoorlijn Lydda-Haifa. Aan het eind van de opstand, in oktober 1939, vluchtte Salama met de leider van de opstand, moefti Amin al-Hoesseini en andere leden van het Arabisch Hoger Comité via Beiroet en Damascus naar het Iraakse Bagdad.