Karl Elsner ble født i Sveits i 1860, som fjerde sønn av en hattemaker. Da han ble gammel nok, dro han til Zug for å utdanne seg til knivsmed. Han reiste også til Frankrike og Tyskland for å lære seg alt om hvordan man lager kniver. Karl dro tilbake til Sveits og åpnet sin første smie i 1884. Knivene ble solgt i hattebutikk til hans mor, Victoria. Sju år senere dannet Karl det sveitsiske forbundet for knivsmeder, som samlet 37 andre håndverkere. I oktober 1891 fikk Karl sin første ordre fra den sveitsiske arméen, og i 1897 fikk han patent på den såkalte "Offiserskniven".