Sammen med broren (Ole Jacob Broch, senere professor i matematikk) gikk han tre år på Kristiansand katedralskole, før familien i 1833 flyttet til Kristiania. Der begynte de på den private som Ulrik Wilhelm Møller (1791–1853) hadde startet i 1822. Jens studerte derpå til cand.theol. i 1843 og ble lærer ved Nissens latin- og realskole som broren Ole nettopp hadde startet. Fra 1845 ble han universitetsstipendiat ved Det Kongelige Frederiks Universitet, dets andre lærer i orientalske/østerlandske språk, spesielt arabisk da. Han studerte utenlands og gjestet, blant annet hos Heinrich Leberecht Fleischer (1801–1888) i Leipzig, samme stedet der den kjente testamente-tolker Carl Paul Caspari (1814–1892) oppholdt seg 1834–1838 og i 1842 mottok sin doktorgrad. Brochs og Casparis erfaringer fra Leipzig inspirerte forresten den senere professor i hebraisk, Elias Blix (1836–1902) til å komme ned og være 1871–1872. Broch hadde også et lengre utenlandsopphold fra 1853 til 1855. Til det nystartede Videnskabs-Selskabet i Christiania ble han innvalgt i 1859, og til Det Kongelige Norske Videnskabers Selskab i 1877. Han ble ekstraordinær lektor i 1865 og full professor i 1876. Hans hovedarbeide er en meget omhyggelig utgave av Zamakhsharis grammatiske verk (1879).