Jacobs foreldre var ikke spesielt velstående, og bare den eldste av ungeflokken på åtte fikk universitetsutdannelse. Jacob Tostrup var nummer fire av barna, og gikk i lære hos gullsmeder. Han utdannet seg i Bergen, St. Petersburg og København, sist i Bergen, der han tok svennebrev i 1828. Etter læretiden arbeidet han i St. Petersburg, hvor han blant annet hjalp til med bestillingsverk fra det russiske hoffet.