Alhoewel het gaat om een samenvoeging van partijen was Fine Gael in eerste instantie een grotere versie van de Cumann na nGaedhael, de partij die in 1924 door de voorstanders van de Overeenkomst en de leiders van de Ierse Vrijstaat Arthur Griffith, Michael Collins en W.T. Cosgrave werd opgericht. Griffith en Collins kwamen tijdens de Ierse Burgeroorlog te overlijden, waarna Cosgrave de leider werd. Na een korte periode onder het desastrueze leiderschap van generaal Eoin O'Duffy (die nooit een parlementszetel had) keerde Cosgrave terug als aanvoerder van de nieuwe partij tot 1944. Alhoewel de partij (als Cumann na nGaedhael) 10 jaar aan de macht was geweest in de Ierse Vrijstaat (1922-1932) verbleef de partij de volgende 16 jaar in de schaduw van Eamon de Valera's Fianna Fáil regering.