Sandberg begynte å arbeide i bank i 1895. I 1899 reiste han utenlands, hvor han oppholdt seg i seks år, og ble ansatt i Centralbanken i 1904. I 1907 gikk han over til Norges Bank, hvor han etterhvert ble assistent og fullmektig. I 1916 ble han sjef for Østerdalens Privatbank på Rena. I 1918 vendte han tilbake til Norges Bank som kontorsjef, og i 1919 ble han nestformann i bankens direksjon. Mellom 1920 og 1945 var han administrerende direktør i Christiania Bank og Kreditkasse, og mellom 1930 og 1945 formann i Den norske Bankforening.