Organisasjonen ble grunnlagt 19. juli 1950 som følge av økende isolering av tyske jøder i det internasjonale jødiske samfunnet. Den hadde opprinnelig sete i Rhinlandet (Düsseldorf og Bonn), men har nå flyttet sitt hovedsete til Berlin. Organisasjonen har alltid fått stor økonomisk og moralsk støtte fra regjeringen.