Karmsund prosti går tilbake til tiden før reformasjonen. Prostiet ble delt i Haugesund og Karmøy prosti ved kgl.res. av 7. juni 1996, gjeldende fra 1. januar 2006. Det har vært tre sentrale grensereguleringer i prostiet, den første var i 1929 mellom Skjold sogn i Karmsund prosti og Vikebygd sogn i Sunnhordland prosti. Siden, i 1965, var det en regulering mellom Vats sogn i Skjold prestegjeld og Nedstrand sogn og prestegjeld i Ryfylke prosti. I 1969 ble det foretatt en grenseregulering mellom Tysvær prestegjeld i Karmsund prosti og Nedstrand prestegjeld i Ryfylke prosti.