Nascut a Hillside Terrace, a Howth, al comtat de Dublín, fou el segon fill de Philip Gilmore, un comptable originari del comtat d'Antrim, i de la pagesa Fanny Angus. Va dirigir el Batalló de Dublín Sud de l'IRA del 1915 al 1926. Va lluitar amb l'IRA a la Guerra d'Independència d'Irlanda i a la Guerra Civil irlandesa a favor de l'Anti-Treaty IRA. Després de la derrota del seu bàndol, va exercir de secretari del futur Taoiseach, Seán Lemass.