Allerede i 1958 ble Håkon Kyllingmark valgt til 2. viseformann i Høyre, en posisjon han hadde helt frem til 1970. Deretter var han i mange år medlem av Høyres sentralstyre. I 1958 ble han også valgt til medlem av Høyres gruppestyre. I perioden 1973–1981 var han nestformann i stortingsgruppen.