Johan Christian Tellefsen var sønn av Johan Cornelius Tellefsen (død 1777) og Ida Margareta Neumann. I 1794 ble han student ved Trondheim katedralskole. I 1804 ble han ansatt som bibliotekar Christian Ernst Heltzens assistent. Oppgaven hans var å ordne Christopher Hammers boksamling, som kom til Det Kongelige Norske Videnskabers Selskab i 1805.