Partiet ble dannet den 25. mai 1929 ved en sammenslåing av konservative Íhaldsflokkurinn og liberale Frjálslyndi flokkurinn, som begge arbeidet for islandsk selvstendighet fra Danmark. Sjálfstæðisflokkurinn har vært det største partiet i Alltinget i de fleste valgperioder siden partidannelsen.