Tostrup returnerte til hjembyen i 1865 og gikk inn i familiefirmaet. Det var han som introduserte den moderne emaljekunsten i norsk gullsmedkunst. Han var også med å stifte Kunstindustrimuseet i Oslo i 1876, og var alltid på leting etter det nye og moderne. Han var opptatt av filigrans-kunstnerne på de norske bygder, samt det å bruke perler fisket i norske farvann. I 1880 var han med på å lage den første telefon i Norge og stod også bak etableringen av Elektrisk Bureau; Tostrup fikk en privat telefonlinje lagt fra sin leilighet til en av byens konsertscener.