Являлся сооснователем спортивного клуба «Odd» (1885), многократный чемпион Норвегии по гимнастике и лыжным гонкам, представлял свою страну как гимнаст на Всемирной выставке 1889 года, удостоившись высшей награды. Служил клерком в тюремном ведомстве, из-за финансовых трудностей не сумел сделать военную карьеру. Со второй попытки был зачислен в экспедицию Нансена кочегаром. После начала арктического дрейфа в октябре 1893 года был назначен ассистентом метеоролога. За свои навыки и лыжника был избран Нансеном для попытки достижения Северного полюса на лыжах и санях. Имея 28 ездовых собак, 6 апреля 1895 года Нансен и Юхансен достигли 86°14’ с. ш., что было рекордом для того времени. Далее путешественники достигли Земли Франца-Иосифа, где с сентября 1895 по май 1896 года в экстремальных условиях зимовали в выстроенном из камней логове. В июне путешественники прибыли на мыс Флора, откуда были эвакуированы английской экспедицией Джексона. В 1898 году Юхансен опубликовал книгу «Сам-друг под 86°14ʹ» ()