I 1903 begyndte han at arbejde på en fabrik i Riga, og to år senere kom han med i Letlands socialdemokratiske arbejderparti. I 1907 blev Jan Rudzutak arresteret på grund af sit politiske arbejde og dømt til ti års tvangsarbejde. Han aftjente dele af straffen i Riga og resten i Butyrka-fængslet i Moskva, han blev løsladt efter Februarrevolutionen i 1917.