Johansson, som opprinnelig var fra Helsingborg, startet karrieren i BK Drott, senere kjent som Hälsingborgs södra IF, og gikk som 20-åring til nyopprykkede Råå IF. I sin debutsesong i Allsvenskan tok Johansson og Råå IF seriesølv. Johansson ble der i ytterligere en sesong, og gikk til AIK etter at Råå IF rykket ned. Johansson møtte året etter, i 1953, motgang i AIK, da han hadde kommet på kant med treneren Per «Pära» Kaufeldt, og tok farvel med elitesatsing i fotball.