O'Rahilly ble født i Listowel i grevskapet Kerry på Irland og fikk sin utdannelse ved Royal University of Ireland. Han ble professor i irsk ved Trinity College, Dublin (1919–1929), og i keltiske språk ved University College Cork (1929–1935) og ved University College Dublin (1935–1941). Han var direktør for Skolen for keltiske studier ved Dublin Institute for Advanced Studies fra 1942 til 1947.