Allerede i 1904 ble Tanner et aktivt medlem i det politiske partiet SDP og i 1907, da i midten av 20-årene, fikk Tanner mandat i det finske parlamentet. Før og under borgerkrigen godtok opprinnelig ikke Tanner et samarbeid med det finske kommunistpartiet som fikk støtte av den russiske sosialistiske føderative sovjetrepublikk, men for å kunne ha politisk innflytelse ble han nødt til å være i dialog og ofte samarbeide med kommunistene. De «hvite», tyskstøttede gruppene i Finland fikk heller ikke SDPs støtte og Tanner så på revolusjonen som en trussel for demokratiske verdier. Han ble utpekt som den eneste muligheten for å samle partiet mot en sterk "hvit" majoritet etter borgerkrigen og han holdt hardt på sin tro på konstitusjonalisme. Frem til 1926 satt ikke SDP i regjeringsposisjon i noen av de 13 koalisjonsregjeringene, men Tanner holdt sin posisjon i parlamentet. Før hans rolle som statsminister oppnådde han flere viktige verv. Blant annet ble han leder for (norsk: ) i 1917. Videre ble han, etter februarrevolusjonen i Russland medlem i den sosialistiske majoriteten i regjeringen dannet av Oskari Tokoi. Under ledelse av Juho Kusti Paasikivi var Tanner en avgjørende medspiller under fredsavtalen mellom Sovjet-Russland og Finland i 1920 som avgjorde territoriale grenser mellom landene.