Thälmann gikk på folkeskole i Hamburg. Deretter arbeidet han som transportarbeider, verftsarbeider, sjømann, ekspeditør og som ansatt på arbeidskontoret. Han ble medlem av SPD i 1903. Han deltok i artilleriet under første verdenskrig hvor han ble belønnet med Jernkorset klasse2, Hansakorset og Såretmerket (som han fikk to ganger). Under krigen gikk han over til partiet Unabhängige Sozialdemokratische Partei. Etter sammenslåingen av Spartakusforbundet og en del av USPD ble han medlem av Kommunistische Partei i Hamburg.