Sarsfield syntyi Dublinin kreivikunnan Lucanissa tarkemmin tuntemattomana ajankohtana. Hänen isoisänsä Rory O’Moore oli ollut yksi vuoden 1641 kapinan johtajista. Sarsfield palveli vuosina 1671–1678 Ranskan kuningas Ludvig XIV:n armeijassa. Kun katolinen Jaakko II tuli vuonna 1685 Englannin kuninkaaksi, Sarsfield palasi Irlantiin ja auttoi Irlannin joukkojen komentajaksi nimitettyä Richard Talbotia puhdistamaan protestantteja Irlannin armeijasta. Kun kuningas Jaakko syrjäytettiin vuoden 1688 mainiossa vallankumouksessa, Sarsfield seurasi Jaakkoa ensin maanpakoon Ranskaan ja palasi sitten hänen kanssaan Irlantiin.