Smith, der als Landwirt tätig war, begann seine politische Laufbahn nach dem Ende des Irischen Bürgerkrieges und wurde 1923 als Vertreter der Sinn Féin zum Mitglied des Unterhauses (Dáil Éireann) gewählt, nahm aber aus Protest gegen die Situation nach dem Bürgerkrieg seinen Parlamentssitz nicht ein. Bei den nächsten Unterhauswahlen 1927 wurde er als Vertreter der Fianna Fáil in den Dáil Éireann gewählt und vertrat dort nach 15 Wiederwahlen bis 1977 fünfzig Jahre lang den Wahlkreis "Cavan".