Ze strzelectwem Gehmann zetknął się po raz pierwszy w 1929 roku, gdy został zabrany przez kolegę na strzelnicę klubu Schützengesellschaft Müllheim. W tym samym roku został juniorskim mistrzem Badenii-Wirtembergii w drużynowym strzelaniu z karabinu małokalibrowego. 6 lat później był mistrzem Niemiec. Członek kadry narodowej na mistrzostwach świata w latach 1935, 1937, 1939, 1952 i 1954. Gehmann zdobył na nich cztery medale – jedyny tytuł mistrzowski osiągnął na turnieju w 1939 roku, podczas którego zwyciężył w karabinie wojskowym leżąc z 300 m. Pozostałe trzy podia wywalczył w konkurencjach drużynowych, w tym srebro i brąz w 1939 roku oraz brąz 13 lat później. Karierę strzelecką zakończył w 1955 roku, mając w dorobku 24 tytuły mistrza kraju.