Der in Kamerun geborene Kaiser betrieb ab 1983 beim TSV 1880 Wasserburg Leichtathletik. Er wurde in der Jugend mehrmals Deutscher Meister im Hürdensprint, im Weitsprung und im Mehrkampf. 1990 gewann er bei den Juniorenweltmeisterschaften die Goldmedaille im Zehnkampf. Danach spezialisierte er sich auf den 110-Meter-Hürdenlauf.