В 1975 году Кан попал в молодёжную команду «Карлсруэ», спустя двенадцать лет дебютировал в первом составе этого клуба. В 1994 году перешёл в мюнхенскую «Баварию», где смог стать бессменным вратарём стартового состава вплоть до завершения игровой карьеры в 2008 году. Агрессивная манера общения принесла ему такие прозвища как «Титан» () и «Вулкан» () от прессы и фанатов. С 1994 по 2006 год выступал и в составе национальной сборной Германии. В 1996 году, на победном для немцев чемпионате Европы, ни разу не вышел на поле. Однако после ухода из футбола основного голкипера сборной — Андреаса Кёпке, стал игроком стартового состава национальной команды. На ЧМ-2002 игра Кана в воротах позволила сборной Германии выйти в финал, в котором немцы проиграли бразильцам со счётом 0:2, а сам Оливер допустил ошибку, позволив Роналдо практически без сопротивления забить мяч. Кан был признан лучшим игроком того турнира.