Under Riksforsamlingen på Eidsvoll satt han i finanskomiteen og tilhørte Selvstendighetspartiet. Stoltenberg støttet Eidsvollsgarantien som skulle sørge for sanering av pengene gjennom nye riksbanksedler. Den 10. oktober 1814 var han medlem av deputasjonen som møtte Kristian Fredrik. Høsten 1814 ble han valgt inn som representant på det første overordentlige Stortinget, og måtte motvillig stemme for union med Sverige.