Sjöman oli alkuperäiseltä ammatiltaan mallipuuseppä, mutta toimi 1950-luvulta alkaen Suomen Kommunistisen Puolueen (SKP) ja siihen kytkeytyneiden järjestöjen palveluksessa. Hän opiskeli Sirola-opistossa lukukaudella 1955–1956 ja suoritti jatko-opintoja itäsaksalaisessa puoluekoulussa. Hän vaikutti pitkään Suomen Demokraattisessa Nuorisoliitossa (SDNL) ja oli vuosina 1964–1970 sen puheenjohtajana, iästään huolimatta. Sjöman valittiin SKP:n keskuskomiteaan vuonna 1963 ja hän jatkoi siellä 1980-luvulle saakka lukuun ottamatta lyhyttä katkosta vuosina 1969–1970. Hän kuului myös puolueen poliittiseen toimikuntaan (”politbyroo”) vuosina 1966–1969 ja 1970–1972, ja oli piirisihteeri vuosina 1970–1971. SKP:n sisäisessä kahtiajaossa Sjöman kuului enemmistöläisiin. SDNL:n johto hyväksyi elokuussa 1968 hänen poissaollessaan Tšekkoslovakian miehityksen tuominneen lausuman, jonka hän jälkeenpäin allekirjoitti.