Foss begynte sin politiske karriere i Unge Høyre, hvor han blant annet var formann i Oslo Unge Høyre 1970–1971, medlem av Høyres sentralstyre 1971–1973 og formann 1973–1977. I 1978 ble han valgt til medlem av Høyres arbeidsutvalg. I 1980-årene var han medlem av Høyres oljepolitiske komité 1980–1982, formann i Høyres kommunalutvalg 1980–1984, formann i Høyres programkomité 1983–1985, formann i Høyres utvalg for mål og virkemidler i kulturpolitikken 1986–1987 og 2. viseformann i Oslo Høyre 1988–1992. Ved siden av sine politiske oppdrag har han hatt offentlige verv, blant annet som medlem av Lillehammer Olympiske Organisasjonskomité (LOOC) 1989–1992.