Besonders erfolgreich war Kimmig bei den Paralympischen Sommerspielen 1996 in Atlanta. Ihm gelang es, insgesamt 7 Medaillen zu gewinnen, und zwar dreimal Gold, dreimal Silber und einmal Bronze. Zunächst siegte er über 100 m Rücken, dann wurde er in der Leistungsgruppe S 7-10 zusammen mit Detlef Schmidt, Oliver Anders und Stefan Löffler Olympia-Sieger in der 4 mal 100 m Freistilstaffel. Es folgte ein weiterer 1. Platz in derselben Besetzung bei den 4 × 100 m Lagen. Im 100 m Einzel-Freistil wurde er Zweiter und Gewinner einer Silbermedaille (Leistungsgruppe S 8). Auch über 400 m Freistil und 200 m Lagen wurde er Gewinner einer Silbermedaille. Schließlich erlangte er noch über 50 m Freistil-Einzel eine Bronzemedaille. Für diese Erfolge wurde er vom Bundespräsidenten mit dem Silbernen Lorbeerblatt ausgezeichnet."