Grabner verfügte über eine einfache Schulbildung und arbeitete in den 1920er Jahren als Holzfäller. Nach einer kurzen Polizeiausbildung wurde er ab 1930 in die österreichische Polizei aufgenommen und arbeitete zunächst als Polizeibeamter und später als Kriminalpolizist bei der Polizeidirektion in Wien. Grabner wurde bereits im August 1932 Mitglied der NSDAP (Mitgliedsnummer 1.214.137). Nach dem 1938 erfolgten „Anschluss Österreichs“ an das Deutsche Reich trat Grabner Anfang September 1938 der SS bei und stieg dort bis zum SS-Untersturmführer auf.