Первоначальный вызов в национальную сборную Германии Кан получил в рамках чемпионата мира 1994 года, однако на турнире дебют голкипера не состоялся. 23 июня 1995 года, спустя два месяца после восстановления от разрыва крестообразных связок, из-за которого Кан пропустил почти шесть месяцев, он дебютировал в матче за сборную Германии. Матч против сборной Швейцарии завершился положительно для немцев: они победили со счётом 2:1 Наряду с Оливером Реком Кан был запасным вратарём команды, выигравшей чемпионат Европы 1996 года в Англии. Чемпионат мира в 1998 году во Франции Оливер аналогично провёл на скамейке запасных, лишь когда Андреас Кёпке объявил о своём уходе из сборной в конце турнира, Кан стал основным вратарём в команде. Через два года после Евро-2000, на котором немцы выбыли уже на стадии группового этапа, Кан получил звание постоянного капитана команды, сменив на этом посту нападающего Оливера Бирхоффа.