Stub var også samler av antikviteter. Han forsøkte forgjeves å få tak i arkivet på Akershus slott og lette etter dokumenter fra Halsnøy kloster mens han bodde i Bergen. I 1729 fikk han tak i to gamle brev fra biskop Olav Harniktsson (1449) og lagmannen Erland Andersen (1419).