Clarke ble født på den engelske øya Wight. Hans far, James Clarke, var sersjant i British Army. Som ung gutt flyttet han med familien til Dungannon i Tyrone. Atten år gammel gikk han inn i Irish Republican Brotherhood (IRB), og i 1883 ble han sendt til London for å sprenge London Bridge i bombekampanjen som hadde blitt startet etter oppfordring fra Jeremiah O'Donovan Rossa. Han ble arrestert og satt femten år i Pentonville fengsel.