Sandberg begynte å arbeide ved jernbanen som 15-åring i 1890, da han fikk jobb som lokomotivpusser ved Hovedbanen. Han avanserte til fyrbøter, deretter lokomotivfører.