Familien O'Herlihy flyttet til Dublin, mens han fremtidlig var i ung alder. Han ble utdannet ved Christian Brothers College i Dun Laoghaire, og senere studerte han ved University College of Dublin, derfra ble han uteksaminert i 1944 med en grad innen arkitektur.