Nielsen var Trondhjems varaordfører i 1893 og 1894, ordfører i 1895 og igjen varaordfører i 1896. I 15 år fungerte han som ulønnet sekretær i formannskapet. Fra 1899 til sin død satt han i byens forlikskommisjon.