בתחילה, מנהיגות הארגון הייתה מורכבת מיהודים שנולדו בגרמניה, בעוד רוב יהדות גרמניה הייתה מורכבת מיהודים פולנים ניצולי שואה שנמלטו מהמשטר הקומוניסטי ששרר בפולין של אותם הימים. בשל כך, הארגון קרא לעצמו באותה התקופה "המועצה המרכזית של היהודים בגרמניה" ולא "המועצה המרכזית של יהודי גרמניה". במשך הזמן, נקלטו היהודים ילידי-פולין בגרמניה, וברבות השנים השתלבו חלק מהם בהנהלת המועצה, אם כי גם כיום רוב אנשי הסגל הבכיר של המועצה הם ילידי גרמניה. בשנות ה-80 המאוחרות שקל הארגון לשנות את שמו; בעקבות התפרקותה, מהגרים רבים מאוד מברית המועצות ומהמדינות שתחת שליטתה נקלטו בגרמניה כמהגרים כתוצאה ממדיניות מכוונת של ממשלת גרמניה שביקשה לחדש את ימי הקהילה היהודית כקדם. כתוצאה מכך היהודים בגרמניה אינם תושביה ה"מקוריים" (למעשה, גם רוב אלה הוותיקים יחסית היו מזרח-אירופאיים במוצאם). ההגירה מברית המועצות שינתה את אופי הקהילה היהודית - היא הביאה איתה יהודים רבים שהיו חילונים וחסרי כל זהות עצמית יהודית, והיה צורך לשלבם בקהילה היהודית הוותיקה. קבוצה זו גם היוותה אתגר עבור המועצה המרכזית שהייתה שמרנית יחסית מבחינת ההקפדה על הלכות הדת .