O'Kelly työskenteli nuorena kirjastossa. Hänestä tuli Sinn Féinin perustajan Arthur Griffithin työtoveri. Vuodesta 1913 hän osallistui vapaaehtoisten värväykseen, ja joutui vankilaan 1916 Pääsiäiskapinan yhteydessä. Hänet valittiin parlamenttiin 1918 ja hän edusti siellä Dublinin eri osien vaalipiirejä vuoteen 1945 asti. Éamon de Valeran hallituksessa hän oli varapääministeri, myöhemmin terveysministeri ja valtiovarainministeri. Hän oli harras katolinen ja hoiti puolueen yhteyksiä kirkkoon. O'Kelly valittiin presidentiksi 1945 ja toiselle kaudelle 1952 ilman vastaehdokkaita. Toisen kautensa päätyttyä hän vetäytyi politiikasta.