Apesar do talento, Kleff teve poucas oportunidades na Seleção Alemã de Futebol porque conviveu na mesma época com Sepp Maier, considerado o maior goleiro alemão de todos os tempos. Como reserva de Maier, foi campeão do Campeonato Europeu de Futebol de 1972 e da Copa do Mundo FIFA de 1974.