Rallarene var også med å skape de første fagforbundene i Norge. De ble dermed pionerer for arbeiderbevegelsen mange steder i landet, i blant i konflikt med lokale bønder. Olav Strøm (1866-1963) var den første omreisende agitatoren blant rallarer og anleggsarbeidere, og sto i 1895 bak stiftelsen av Det norske Vei- og Jernbaneforbund, som seinere skiftet navn til Norsk Arbeidsmandsforbund. Også syndikalismen stod sterkt i rallarmiljøet, med impulser fra blant annet svenske rallarer. Norsk Syndikalistisk Føderasjon, som ble stiftet 1916, var aktiv i Nord-Norge og blant anleggsarbeiderne ved Rauma-, Røros- og Sørlandsbanen.