Han ble student i 1875 og tok språklig-historisk lærereksamen i 1883. Johanssen tok så et par år som lærer på Hamar, før han i 1886 ble adjunkt ved Tromsø offentlige høiere skole. Ti år senere dro han tilbake til fødebyen Trondheim som adjunkt ved Trondheim katedralskole, der han i 1902 ble overlærer og i 1915 rektor. Etter avskjed som rektor i 1925 flyttet Johanssen til Oslo.