Nasjonalmuseet for kunst, arkitektur og design eier 15 av hans portretter og tre landskapsmalerier. Det er reist byster av Stoltenberg og faren i Stoltenbergparken i Tønsberg.