Johansson ble radikalisert og mer kontroversiell utover fra rundt 1850 og videre på 1870- og 80-tallet, og i 1884 måtte han forlate stillingen sin. I 1886 ble han så kallet til predikant i Jönköpings stadsmissionsförening og samtidig til forstander på Gamla missionshuset. Begge disse stillingene hadde han resten av livet. Som menighetsleder vste han et stort organisasjonstalent, i tillegg til at han fikk utfolde seg som predikant. Fra 1879-97 var han leder for styret i Svenska Missionsförbundet.