Der Arbeitersohn und gelernte Buchdrucker und Typograf trat 1899 der Sozialdemokratischen Partei der Schweiz (SPS) bei. Er begab sich nach dem Berufsabschluss auf Handwerks-Wanderschaft durch Europa und weilte 1905–1906 in Berlin. Nach der Rückkehr in die Schweiz sei er in zwei Betrieben in Pruntrut und Bern je nach kurzer Zeit wegen seiner Agitation entlassen worden. 1909 wurde Grimm Chefredaktor der "Berner Tagwacht", die er zum Kampfblatt der Arbeiterschaft machte. Grimm vertrat die SP auf Kongressen der Zweiten Internationale. Nach deren Zerfall infolge der Burgfriedenspolitik zu Beginn des Ersten Weltkriegs organisierte er die internationalen sozialistischen Kongresse von Zimmerwald (1915) und Kiental (1916), um die sozialistischen Kräfte Europas neu zu bündeln. Grimm trat dabei gegen die Burgfriedenspolitik ein und befürwortete die Fortführung des Klassenkampfes und des Antimilitarismus durch die Arbeiterschaft, um die kriegführenden Staaten zum Frieden zu zwingen. Während des Ersten Weltkrieges wurde Grimm durch seine politische Position und seine internationalen Kontakte zu einer der führenden Figuren der Arbeiterbewegung in der Schweiz und in Europa. Mit dem in der Schweiz im Exil lebenden Lenin verstand er sich nicht besonders gut – er lehnte dessen Überzeugung ab, dass eine Veränderung der Gesellschaft nur auf dem Weg der Gewalt möglich sei. Trotzdem organisierte er die Reise Lenins im plombierten Wagen nach Petrograd mit. Eine Woche nach Lenin reiste er selber nach Russland und musste feststellen, dass er dort keinen Einfluss nehmen konnte. Sein gescheiterter Versuch, im Sinne des Zimmerwalder Pazifismus eine Friedenslösung herbeizuführen, wurde bekannt und hatte innenpolitische Konsequenzen (sog. Grimm-Hoffmann-Affäre).