Han ble født av irske innvandrerforeldre fra arbeiderklassen. Hans opprinnelige navn var ; han la senere til navnet Sarsfield fordi hans mor hevdet at de var i slekt med 1600-tallsgeneralen Patrick Sarsfield. Etter skolegangen hadde han forskjellige jobber innen han påbegynte sin forfatterkarriere under pseudonymet Sax Rohmer. Hans første publiserte verk var «The Mysterious Mummy» i i 1903. Han skrev varietésketsjer og føljetonger for tidskrifter.