Scherner wurde in Deutsch-Ostafrika geboren, wo er seine zwei ersten Lebensjahre verbrachte. 1905 bis 1914 besuchte er eine Kadettenschule in Deutschland und diente seit 1914 im Heer. Nach seinem Ausscheiden aus dem Militär 1920 wurde er Angestellter und trat dem Bund Oberland bei. Er nahm 1923 am Hitler-Ludendorff-Putsch teil. 1932 trat er in die SS (Mitgliedsnummer 39.492) und die NSDAP (Mitgliedsnummer 865.027) ein. 1937 übernahm er die Leitung der SS-Unterführerschule Dachau. Von September 1939 bis 11. November 1939 war Scherner Regimentskommandeur des SS-Gebirgsjäger-Regimentes 11 „Reinhard Heydrich“. Von Sommer bis Winter 1940 war er Kommandeur der 8. Totenkopf-Standarte. Als SS-Standortkommandant von Prag leitete Scherner von Januar bis September 1941 die Vorbereitungen zur Errichtung des SS-Truppenübungsplatzes Beneschau. Im August 1941 wurde er zum SS-Polizeiführer in Krakau ernannt. Als solcher war er verantwortlich für die Deportationen nach Belzec und die Massenerschießungen in Tarnów. Er löste die Ghettos in seinem Distrikt durch Deportationen nach Auschwitz auf. Scherner wurde im April 1944 ins KZ Dachau verlegt und im Oktober 1944 nach Verurteilung durch ein SS-Ehrengericht degradiert und zur Frontbewährung zum Regiment Dirlewanger strafversetzt. Er soll kurz vor Kriegsende in einem Waldstück tot aufgefunden worden sein.