Joe McKelvey hadde en stor interesse for Gaelic Athletic Association (GAA) og irsk språk. Han studerte som regnskapsfører og fikk noen av kvalifikasjonene som var nødvendige for dette yrket, men ble aldri helt kvalifisert. Han jobbet en tid ved kontoret for inntektsskatt på Queen's Square i Belfast og fant senere arbeid i byens ingeniørindustri med Mackies på Springfield Road. Han sluttet seg til Irish Republican Brotherhood (det irske republikanske brorskapet) og Irish Volunteers, en paramilitære organisasjonen, som i løpet av 1919 ble kjent som den irske republikanske hæren (IRA). Han var et grunnleggermedlem av O'Donovan Rossa Club, en GAA-klubb i Belfast – etablert i 1916 på Falls Road. Hvert år hedrer klubben ham med en ungdoms slyngeblitz, en invitasjonskonkurranse som klubber over hele Irland deltar i.