Under hele sin barndom jobbet Johansson som gjeter. Senere ble han håndtlanger ved dampmaskinen på torvfabrikken i Vårgårda. Når jernbanen Stockholm-Westerås-Bergslagen ble bygd jobbet han der som blant annet rallare og fyrbøter. Etter endt militærtjeneste fikk Johansson tre års praksis på Munktells Mekaniske Verksted i Eskilstuna Etter planer om å flytte til Amerika tilbød Munktell Johansson en valgfri stilling i bedriften for å få ham til å bli værende. Han jobbet da en periode som oppfnner og i 1883 gjorde han sin første oppfinnelse, en smørekopp som Munktell tok patent på.