Han hadde farfar fra Island (se ), men vokste opp i Kristiansand, og tok teologisk embetseksamen i Christiania i 1845. Deretter hadde han et studieår i Tyskland hvor han kom i kontakt med Carl Paul Caspari. Gisle Johnson ble i 1849 lektor ved universitetet, og i 1860 ble han ansatt som professor, først i systematisk teologi og dogmehistorie, fra 1875 i kirkehistorie.