Ved riksrettsdommen 29. mars 1884 var Johansen den eneste av statsrådene som bare ble dømt til bøter, ettersom han hadde stemt for sanksjon i statsrådssaken i 1880. Han fikk en bot på 8 000 kroner og kunne gå inn i Aprilministeriet under Christian Homann Schweigaard, men gikk av før dette ministeriet falt. Han fikk avskjed med vartpenger 28. mai 1884, og ble etterfulgt av Johan Koren (Bøicke Johan Rulffs Koren). Siden levde han som privatmann.