Nilssen ble ferdig gullsmedsvenn i 1889, og gikk tidlig inn i arbeiderbevegelsen. Etter å ha hatt verv i Gullsmedenes forening og Sarpsborg og omegns Arbeiderforening ble han med i Arbeiderpartiets sentralstyre i 1900, og han satt i sentralstyret i nesten 40 år tilsammen i periodene 1900–1921 og 1927–1945. Han var Arbeiderpartiets partisekretærer i perioden 1901–1918.