På 1990-tallet ble Kohler regnet blant de beste midtforsvarsspillerne i verden. Han var særlig god på markeringer, og hadde stor suksess både på klubblag og landslag. Han ble verdensmester i 1990 og europamester i 1996. Han vant også UEFA-cupen i 1993 for Juventus FC samtidig som han vant serien en gang. Han har også tre Bundesliga-seriemesterskap.