Johansson ble olympisk mester i skyting under OL 1912 i Stockholm. Han var med på det svenske laget som vant lagkonkurransen rifle 300 meter med 5655 poeng foran Norge med 5605. De andre på laget var Mauritz Eriksson, Erik Blomqvist, Bernhard Larsson, Carl Björkman og Gustaf Adolf Jonsson. Det var sju lag som deltok og det var seks mann på hvert lag. Johansson skjøt totalt 975 poeng som var det nest beste resultatet på det svenske laget, en poeng mindre enn Mauritz Eriksson. Han var også med på det svenske laget som kom på tredjeplass i lagskytingen med armégevær. Åtte år senere, under OL 1920 i Antwerpen vant sin andre olympiske tittel i skyting, han vant 600 meter armégevær liggende foran landsmannen Mauritz Eriksson.