Dal 1963 al 1967 fece parte della nazionale di calcio del Lussemburgo, sfiorando l'accesso alla fase finale del Campionato europeo di calcio 1964, perso solo dopo lo spareggio contro la Danimarca all'ultimo atto delle qualificazioni. Klein giocò inoltre altri cinque incontri, segnando altre due reti, con la selezione lussemburghese contro nazionali B di altri paesi.