Karlsson debuterte i 1905 på scenen som bondekomiker og ble senere engasjert ved flere ulike teater i Stockholm. I 1918 grunnla han et eget turnerende teaterselskap som han turnerte med fram til 1934. Han filmdebuterte i 1916 i , og medvirket i drøyt 40 filmer.