Etter å ha fullført videregående skole i Trautenau ble Kasper i 1915 soldat i de østerriksk-ungarske landstyrkene. I mai 1917 ble han tatt til fange av italienerne, og ble løslatt i september 1919.[1] Fra 1929 til 1933 var Kasper medlem av det tsjekkiske parlamentet for det tyske nasjonalsosialistiske arbeiderpartiet (DNSAP), hvor han hadde vært fulltidsaktiv siden 1922. I 1933 ble DNSAP forbudt, dens representanter mistet mandatet, og Kasper ble satt i forhør fra oktober 1933 til mars 1934 på grunn av mistanke om å utgjøre en trussel mot den tsjekkoslovakiske republikken. Fra 1935 var Kasper funksjonær i Sudetendeutsche Partei, hvor han kom i sterk konflikt med partileder Konrad Henlein og ble midlertidig ekskludert. Mot slutten av 1938 flyttet Kasper til det tyske riket og ble medlem av NSDAP fra 1. november samme år (medlemsnummer 6.430.407), hvor han allerede hadde vært aktiv ulovlig. Samtidig hadde han jobbet som informant for Sicherheitsdienst des Reichsführers SS. Kasper arbeidet først som spesialutsending for tyskhet i Volksdeutschen Mittelstelle. I januar 1939 ble han medlem av Allgemeine SS (SS-nummer 313.997), hvor han i november 1940 oppnådde rang som Oberführer. Under andre verdenskrig var han fra juni 1940 til oktober 1941 medarbeider for "Reichskommissar for de okkuperte norske områdene" Josef Terboven, og fra januar 1942 til januar 1943 var han "Gauwalter" for DAF i Essen. Fra 1943 var Kasper offiser i Waffen-SS.