I perioden 2001–2005 var Kårbø 1. vararepresentant til Stortinget fra Hordaland. I perioden 2007–2011 var han gruppeleder for KrFs fylkestingsgruppe i Hordaland og gruppeleder for KrFs kommunestyregruppe i Meland. Fra 2011–2015 var han nestgruppeleder i KrFs fylkestingsgruppe, og partileder for samme fylkeslag. Etter fylkestingsvalget høsten 2015 ble han fylkesvaraordfører i Hordaland.