Hareide begynte sin politiske karriere som kommunestyrerepresentant i hjemkommunen Bømlo, der han ble valgt inn som 18-åring i 1991. Han var medlem av kommunestyret og kulturstyret på Bømlo til 1995.