Saarinen kam in einer Arbeiterfamilie in Siuntio zur Welt, eine vorherrschend schwedisch sprechende, ländliche Gemeinde westlich von Helsinki. Saarinens Vater war ein Steinschleifer, der sich zum Ende des finnischen Bürgerkriegs 1918 den Roten Garden anschloss und anschließend nach Sowjetrussland floh. Er kehrte jedoch bald nach Finnland zurück und wurde für kurze Zeit in einem Gefangenenlager inhaftiert. 1927 zog die Familie nach Helsinki, wo Saarinen seine schwedischsprachige Ausbildung abschloss, die er in Siuntio begonnen hatte. Bei seiner Ankunft in Helsinki sprach Saarinen praktisch kein Finnisch, er musste die finnische Sprache erst aus Büchern erlernen. Von 1932 bis 1945 war er als Steinmetz tätig. 1933 heiratete Saarinen, seine Ehe dauerte mehr als sechzig Jahre bis zum Tode seiner Frau, Helmi. Mit ihr hatte er drei Kinder. 1934 schloss sich Saarinen dem Zweig der Steinmetze in der Bauarbeitergewerkschaft an und begann die nunmehr illegale KP Finnlands (, SKP) zu unterstützen. Die Partei war zusammen mit allen weiteren kommunistischen Organisationen 1930 verboten worden und arbeitete im Untergrund. 1938 wurde Saarinen Gewerkschaftssekretär für seinen Berufszweig.