Kyllingmarks politiske karriere begynte allerede i 1945, da han ble innvalgt som medlem av bystyret i Svolvær på en borgerlig fellesliste. Han meldte seg nokså snart inn i Høyre og fikk raskt en rekke tillitsverv i Unge Høyre, i Svolvær Høyre og i Nordland Høyre.