Saarinen slog igenom vid VM 1926 där han blev medaljör på 30 kilometer. Saarinen deltog i två olympiska spel, först 1928, och vid OS 1932 vann han guld på 50 kilometer och brons på 18 kilometer. Förutom medaljerna vid OS blev det ytterligare fem VM-medaljer.