Klein engagierte sich in verschiedenen jüdischen Organisationen. Er war von 1983 bis 1989 Präsident des "Conseil Représentatif des Institutions Juives de France" (CRIF). Von 1986 bis 1988 war er gleichzeitig Präsident des "Europäischen Jüdischen Kongresses" (EJC). Federführend war er an den Verhandlungen zur Entfernung des Kreuzes vor dem KZ Auschwitz beteiligt. Im Zuge des Verlaufes der Zweiten Intifada im Nahen Osten und einer darauffolgenden hochpolitischen Debatte in Frankreich überwarf er sich mit der CRIF. Politisch und freundschaftlich stand er der Sozialistischen Partei um François Mitterrand nahe.