FitzGerald nació en el nº 19 de la calle Lower Mount en Dublín, el 3 de agosto de 1851, hijo del reverendo William FitzGerald y de su mujer Anne Francis Stoney.