בשנת 1933, שנת עלייתו המפלגה הנאצית לשלטון, ירד מספר החברים ל-64,000. בשנת 1933 קוימו שיחות עם ראשי האגודה על ארגון יהודי גרמניה שמהם תשלל האזרחות היהודית כעדה דתית שתנוהל על ידי האגודה. רעיון זה לא יצא אל הפועל. בנובמבר 1935, בעקבות חקיקת חוקי נירנברג שמנעו מיהודים להיות אזרחים גרמניים, שונה שם הארגון ל"האגודה המרכזית של היהודים בגרמניה" ("Centralverein der Juden in Deutschland"), ובשנת 1936 שונה השם שוב, הפעם ל"האגודה המרכזית היהודית" ("Jüdischer Centralverein"). לאחר ליל הבדולח ב-1938 פסקה הוצאת השבועון של האגודה, וזמן קצר לאחר מכן נאסרה פעולתה כליל.