Gomułka war Schlosser und schlug dann eine Funktionärskarriere ein, zunächst in den Gewerkschaften, ab 1926 in der Kommunistischen Partei Polens (KPP). Nachdem er wegen seiner Aktivitäten von 1932 bis 1934 zwei Jahre in Haft verbracht hatte, fuhr er für ein Jahr zur Schulung in die Sowjetunion. Nach seiner Rückkehr wurde er 1935 erneut verhaftet und mit Unterbrechungen bis Kriegsbeginn 1939 erneut inhaftiert. Die Jahre 1939 bis 1942 verbrachte er im sowjetisch besetzten Teil Polens in Białystok und Lemberg bzw. nach dem deutschen Überfall auf die UdSSR im Untergrund. 1942 begab er sich über das heimatliche Karpatenvorland nach Warschau, wo er die Polnische Arbeiterpartei ("Polska Partia Robotnicza", PPR) im Untergrund mitbegründete.