Idea powołania międzynarodowej, antyfaszystowskiej organizacji żydowskiej po napaści III Rzeszy na ZSRR pochodziła od wybitnych przywódców polskiego Bundu – Henryka Ehrlicha i Wiktora Altera. Tuż przed kapitulacją Warszawy we wrześniu 1939, decyzją Komitetu Centralnego Bundu, opuścili oni stolicę i okupowane przez Niemców tereny udając się na wschód. Obydwaj zostali aresztowani przez NKWD (Alter 23 września 1939 w Kowlu, a Ehrlich 5 października w Brześciu) i osadzeni w moskiewskich Butyrkach. Obydwu zmuszono do przyznania się do rzekomych zbrodni i w lipcu 1941 skazano na karę śmierci, którą następnie zamieniono na dziesięć lat łagru. Po układzie Sikorski-Majski i amnestii dla obywateli polskich zostali oni we wrześniu 1941 uwolnieni i sprowadzeni do Moskwy. Przeproszeni przez NKWD za zaistniałą „pomyłkę” i poproszeni o współpracę w „walce przeciwko wspólnemu wrogowi”, sporządzili z inspiracji Berii obszerne memorandum adresowane do Stalina, w którym proponowali powołanie Żydowskiego Komitetu Antyhitlerowskiego. Celem organizacji miało by być połączenie wysiłków wszystkich narodów okupowanej przez Niemców Europy w ich walce o wyzwolenie i sprawiedliwość społeczną, oparcie powojennego ładu w Europie na rządach demokratów i socjalistów przy współdziałaniu międzynarodowej społeczności żydowskiej, głównie w USA. Komitet centralny miał się składać z dziesięciu osób: siedmiu przedstawicieli Żydów krajów okupowanych i po jednym reprezentancie ZSRR, USA i Wielkiej Brytanii. Do trzyosobowego prezydium mieli wejść Ehrlich (przewodniczący), Alter (sekretarz) i reprezentant Żydów radzieckich Solomon Michoels. Przedstawicieli władz ZSRR, ambasadorów USA, Wielkiej Brytanii i Polski w ZSRR, jak również wybitnych ekonomistów, artystów i naukowców zamierzano powołać na honorowych członków prezydium.