McKelvey ble født i Stewartstown i grevskapet Tyrone (dagens Nord-Irland) som den eneste sønnen til Patrick McKelvey, politikonstabel i Royal Irish Constabulary (RIC) som senere ble sersjant, og Rose O'Neill, en postkontoransatt. Under første verdenskrig vervet faren seg til spesialreserven til den britiske hæren og ble i 1917 utsendt til infanteriregimentet Northumberland Fusiliers. Han døde i 1919 i Belfast, på grunn av en perforering av magen, i en alder av 57.