Han (Joh. Tho.) var om lag tjuefem år da han med faren Ths. Joh. i 1818 startet , et bankierfirma, det vil si at man driver bankvirksomhet i eget navn. I likhet med faren (Ths. Joh.), satt han (Joh. Tho.) som medlem av Børs- og Handelskomitéen i 1824, 1830, 1835, 1836, 1841 og 1842. Han var og dens formann i 1831. Johannes Heftye ble valgt inn på Stortinget i 1827 for valgkretsen Christiania. Han satt i én periode, kun avbrutt av en utenlandsreise.