Am 24. September 1986 debütierte Kohler in Kopenhagen in der A-Nationalmannschaft beim 2:0-Sieg über Dänemark. Bis zu seinem letzten Länderspiel, am 4. Juli 1998 in Lyon – bei der 0:3-Niederlage gegen Kroatien im Viertelfinale der Weltmeisterschaft in Frankreich – nahm er sowohl an den Weltmeisterschaften 1990 und 1994 sowie an den Europameisterschaften 1988, 1992 und 1996 teil. Bei der EM 1996, in die er die deutsche Mannschaft als Kapitän führte, verletzte er sich im ersten Spiel gegen Tschechien nach wenigen Minuten am Knie und fiel für den Rest des Turnieres aus. In seinen 105 Einsätzen gelangen ihm auch zwei Tore: Das erste am 4. Juni 1996 in Mannheim in einem Testspiel beim 9:1-Sieg über Liechtenstein, das zweite am 18. Februar 1998 in Maskat (ebenfalls in einem Testspiel) beim 2:0-Sieg über den Oman. Kohler war nach Franz Beckenbauer, Lothar Matthäus und Jürgen Klinsmann erst der vierte deutsche Fußballer gewesen, der mehr als 100 Länderspiele absolviert hatte, und lag nach seinem Karriereende lange auf Platz 3 hinter Matthäus und Klinsmann, bevor er 2010 von Miroslav Klose überholt wurde. Mittlerweile liegt er auf Platz 9.