Kaiser studerte sosiologi og pedagogikk mens han jobbet som kontraktansatt i Kärntens delstatsregjering. I 1993 ble han doktor i filosofi. Politisk hadde han sin første politiske funksjon i 1981 som styreleder for Kärntens ungdomsavdeling av SPÖ. I 1986 til 1989 var han i kommunerådet i Klagenfurt. Han ble først Landestagsrepresentant for Kärntens parlament i 1989 til 1994, og deretter i 1997 og 2001 til juli 2008. Fra 2005 av var han Klagenfurts partiformann for SPÖ. I 2010 ble han formann for hele Kärntens SPÖ. Den 3. mars 2013 ble han førstekandidaten for å lede en eventuell regjering med SPÖ, som under valget ble det dominerende partiet. Med 30 av 36 stemmer ble han den 28. mars valgt som leder for Kärntner Landtag, altså Landeshauptmann. Som den første regjeringssjef i Kärnten snakket han et par ord slovensk i sin innsettingstale.