I perioden 1973 til 1977 var han gruppesekretær for Det liberale Folkepartiets parlamentariske leder Ole Myrvoll på Stortinget. Frem til han ble innvalgt til Bergen bystyre i 1991, var han første vara for felleslisten til Venstre og Det liberale Folkepartiet. Fra 2007 til 2011 var Tveit kommunalråd og nestleder for bystyrets komité for kultur, idrett og næring, samt gruppeleder for Venstres bystyregruppe. Fra 2011 var han Venstres 1. vararepresentant i bystyret. Han fungerte også i en periode som gruppeleder for Venstre i Hordaland fylkesting.