W reprezentacji RFN Kleff zadebiutował 22 czerwca 1971 roku w wygranym 7:1 towarzyskim meczu z Norwegią. W 1972 roku został powołany na Mistrzostwa Europy. Nie zagrał na nich w żadnym pojedynku, a zespół RFN zdobył mistrzostwo Europy.