ב-1866, לאחר 17 שנים של ניהול כוללות אשכנזיים נפרדים, הוחלט על ניסיון איחוד מחודש והוקם ועד משותף בשם "ועד כל הכוללים", שהתבסס על מתכונת זהה ל"ועד הכוללות פרו"ח", אך איפשר לכל כולל לשמור על עצמאות באשר לחלוקת הכסף ליחידים ונושאים פנימיים אחרים.
לאחר שלוש שנים מוצלחות הורחבו והוגדרו בפרוטרוט סמכויותיו של "ועד כל הכוללים" ושמו הוחלף ב-1869 ל"הוועד הכללי כנסת ישראל". הוועד בגלגולו זה ראה עצמו כממשיך ישיר של "ועד הכוללות פרו"ח" וכמה מחבריו מתעקשים לפיכך לציין עד היום את שנת יסודו ב-1821.
בחוברת יסוד הוועד הוגדרו מטרותיו:
בין מקימי הוועד והעומדים בראשו מכולל הפרושים היו זאב וולפנזון, ר' משה נחמיה כהניו (כהנוב), ר' אליעזר דן רלב"ג, יוסף גרשון הורביץ ורבים אחרים, שאליהם הצטרפו חסידים ידועים כמו ר' ישעיה אורנשטיין, ר' ניסן בק, זאב זיידל טפרברג (ממקימי יקב טפרברג) ועוד. אלה קבעו במסמכי הייסוד כי כל הנכסים שיינתנו לוועד כהקדש ינוהלו על ידי מועצה ציבורית נרחבת שתכלול נציגים של כל הכוללות האשכנזיים. בנוסף נקבע כי ההקדשים עצמם ינוהלו על ידי הרכבים של שלושה נאמנים לפחות, שיאושרו על ידי בית הדין הרבני.
פעולות הוועד.
בשנת תרס"ט (1909), במלאת לוועד הכללי 40 שנה, ערכו אנשיו סיכום של פעולות הארגון וחילקו אותן ל-26 קטגוריות:
1. תמיכות שונות לנצרכים ועזר פרנסה - תחת קטגוריה זו נכנסו כל צורות הסעד שניתנו לחברי הקהילות, שיפורטו להלן.
2. עזרה ציבורית - סיוע לקהילות האשכנזיות בסביבת חייהן בעיקר בארבע ערי הקודש - ירושלים, צפת, טבריה וחברון בכסף ובשתדלנות.
3. ריכוז כל ענייני היישוב - ייצוג מול הרשויות וניהול ועדות מקצועיות שטיפלו בכל התחומים להלן.
4. עזרה רפואית ומפעלי בריאות כלליים - סיוע פרטני לנזקקים בתחום זה, בצד טיפול כוללני במגפות ותחלואה. בקטגוריה זו נכללים תיקון וניקוי בורות המים, תיקון "דירות חולות" שסבלו מעובש ורטיבות, ניקוז ביצות בעיר העתיקה ובסביבתה, שהיו סמוכות לשכונות היהודים, פיזור סיד בחצרות הצפופות, מתן שירותי רפואה על ידי רופאים וניהול מחסני מזון לשעות חירום.
5. עזרת עלייה והתיישבות - ליווי שיירות העולים מאירופה, הענקת "סל קליטה" ובהמשך - מענק שוחד לפקידים ושתדלנות בקושטא, כדי לאפשר את כניסתם של העולים ארצה בימי מתח ושחיתות.
6. נציגות ראשית בפני הממשלה והקונסוליות - ניהול "קשרי ידידות אמיצים" עם פקידים, שרי ממשלה וקונסולים, וכן עם הקאדי והמופתי בכל עיר ויישוב, כולל חלוקת מתנות קבועה. פעולות אלו נעשו בשיתוף כוללות הספרדיים.
7. קבלת פני מלכים ושרים - העמדת "שערי כבוד" ברחוב יפו בירושלים לאורחים חשובים ודיפלומטים שביקרו בעיר, כולל מכתבי ברכה ושירת מזמורי הלל. גם פעילות זו נעשתה בשיתוף כוללות הספרדים בעיר.
8. ביטול גזרות ופדיון שבויים - מפעולותיו העיקריות של הוועד, שהתמודד לא פעם עם שחיתות שלטונית ונאלץ לשחד פקידים או מושלים מקומיים, כדי לבטל גזרות שרירותיות נגד יהודים, או לשחרר מהכלא יהודים שנאסרו על לא עוול בכפם.
9. עזרת שיכון וגאולת חצרות עתיקות - ניהול נדל"ני של נכסים בירושלים על ידי חכירה מערבים לתקופות ארוכות, השגת חזקה ואף רכישה של חצרות שלמות, ששימשו לעיתים למוסדות חינוך וחסד. כוללות הספרדים השתתפו בפעולות אלה ויחד איתם הוצאה תקנה גורפת שעל פיה נאסר על יהודים לשכור או לקנות נכסים מבעלי בתים לא יהודיים, אלא דרך הוועד הכללי.
10. מפעלי שמירה והצלה - חברות שמירה שמומנו על ידי הוועד וכוללות הספרדים ואשר סיפקו ליהודי ירושלים הגנה מפני התנפלויות שוד ורצח. אחת הידועות בחברות אלו הייתה "הגברדיה היהודית", שנוכחותה בירושלים סייעה מאוד לביטחון יושבי הרובע היהודי, בהמשך - בשכונות היהודיות שמחוץ לחומה. בצד אלו פעל "ארגון הצלה" שתפקד כמו ארגון מגן דוד אדום או איחוד הצלה של ימינו, וסייע במקרים דחופים לחולים בבתיהם.
11. מלחמה במיסיון והעסקת פועלים יהודים - התנגדות פעילה למאמצי ארגוני המיסיון השונים בארץ ישראל "לצוד נפשות" מקרב היישוב היהודי, שעשו זאת לא פעם על ידי מתן עבודה ופרנסה לעניים. בתגובה הציע הוועד הכללי עבודות שונות, כמו בבניין השכונות החדשות מחוץ לחומה, עבודות חקלאות ואף דייג בנהר הירדן.
12. אספקת מים ומצרכי מזון - אחת הפעולות הקבועות של הוועד, שנעשתה לרוב בשיתוף כוללות הספרדים, כללה הבאת מים ממרחקים בחודשי הקיץ, אחרי שבורות המים התרוקנו או התעפשו. הוועד גם נהג לחלק חבילות מזון שהגיעו מחו"ל, ובהן בעיקר קמח, תפוחי אדמה ואורז. המים והמזון חולקו בחינם לעניים ובתשלום סמלי לאחרים. בחורף סיפק הוועד פחמים לחימום ובישול, שחולקו בחינם לעניים. היו תקופות שהוועד ניהל גם משלוחי בגדים משומשים מרוסיה.
13. הקמת מוסדות תורה וחסד - בניית מבני ציבור מרכזיים ונצרכים לקהילה, ובהם למשל בית חולים ביקור חולים, תלמוד תורה וישיבת עץ חיים, מושב הזקנים הכללי המאוחד, בית החולים לפגועי נפש עזרת נשים בית הכנסת אורחים ובית התבשיל הכללי בשכונת מאה שערים, שיקום בית כנסת החורבה ועוד. מוסדות רבים הוקמו על ידי ארגוני חסד פרטיים ונעזרו בוועד הכללי.
14. מינוי רבנים ומשכורתם - גיוס, העסקה ותשלום משכורתם של רבנים ומלמדים שפעלו במוסדות הוועד.
15. מפעלי אחדות ושלום בין העדות - הוועד לקח על עצמו לנהל את מערכת היחסים ושיתוף הפעולה עם בני העדות היהודיות האחרות, בעיקר בירושלים, על ידי הקמה וניהול של ארגונים כמו "שלום ירושלים", "כנסת ישראל", או "ועד האחדות לכל עדת ישראל" שנוהל על ידי הוועד בשיתוף פעולה עם ראשי כוללות הספרדים.
16. תשלומי מיסים לממשלה - הוועד טיפל בכל המיסים הכלליים שהושתו על הקהילה האשכנזית, ובהם בעיקר 'כופר עבודת הצבא', ומס גולגולת. במסגרת אחריות זו ניהל הוועד את פנקס התושבים מול השלטונות ולא פעם נתבעו מנהיגיו על חוסר סדרים ואף נאסרו כערובה לתשלום המיסים.
17. הגנה בפני דילטוריה על ירושלים, מוסדותיה ומנהיגיה - פעילות הסברה נרחבת ותקיפה בעיתונות ובמודעות רחוב נגד השמצות והתקפות דיבה נגד הוועד על כך שראשיו מתעשרים על חשבון הקופה הציבורית, שיושבי ירושלים בטלנים ואינם למדנים, שעל הנדבנים בחו"ל להפסיק לספק את "כספי החלוקה" וכדומה. פעילות זו נחשבה לקריטית, שכן ללא שמו הטוב שבזכותו הגיעו אליו כספים, לא יכול היה הוועד לפעול.
18. תעמולה להמצאת כספים - אחת המטלות המייגעות והקבועות של הוועד בתפוצות של איסוף תרומות על ידי מכתבים ושד"רים.
19. יצירה והחזקה של כל קרנות היישוב - הוועד הכללי ריכז את קופת כספי החלוקה המרכזית, אולם לא כל הכספים עברו דרכו, אלא דרך קרנות אחרות כמו "כספי גבאות ארץ הקודש שבאמסטרדם", "כספי פטרבורג", "כספי משה מונטיפיורי, "כספי אפריקה" ועוד. תרומתו של הוועד להצלחתן של אלו הייתה במתן המלצות ואף סיוע בתעמולה בקרב נדבנים.
20. קשירת קשרים קבועים עם אנשי שם בגולה - טיפוח מתמיד של מערכת יחסים טובה עם משפיענים יהודים אמידים בחו"ל, לטובת היישוב היהודי בארץ ישראל. הוועד עמד למשל בקשר הדוק עם צבי הירש להרן שעמד בראש ארגון הפקידים והאמרכלים של אמסטרדם, עם משה מונטיפיורי באנגליה, עם הברונים לבית רוטשילד ועוד.
21. הגנה על זכויות היהודים במקומות הקדושים וגאולתם - תשלום משכורתם של שמשים שנכחו דרך קבע במקומות אלה, כדי להבטיח את זכויותיהם של היהודים במקום; מתן "בקשישים" לשוטרים שיסייעו במקרה של תקיפת יהודים במקומות תפילה אלה; ריצוי כספי של פקידים שערמו קשיים על זכויותיהם של היהודים במקומות הקדושים וכדומה.
22. בניין ירושלים החדשה - אחת הפעולות המרכזיות והניכרות של הוועד, אשר יזם, רכש את הקרקעות, בנה את הבתים וניהל את כל השכונות שיסד מחוץ לחומה במחצית השנייה של המאה ה-19 ובראשית המאה ה-20 (ראו להלן)
23. יסוד ישוב חקלאי - דחיפת אנשי היישוב הישן לעבודה חקלאית ושותפות בהקמת יישובים חקלאיים. אף על פי שבספר זיכרונות הוועד "מוסד היסוד" נטען כי "ייסוד היישוב החקלאי הראשון והחברה והמושבה 'פתח תקווה' [נעשה] על ידי הנהלת הוועד הכללי בהשתתפות הכוללים ורבני ירושלים", הרי שבפועל המושבה הוקמה על ידי אנשים פרטיים שהיו קשורים בקשר רופף לוועד הכללי.
24. בניית בתי מחסה לעניים - חלק מהשכונות שהקים הוועד מחוץ לחומות נועד לעניים והושכר להם בחינם לתקופה של שלוש שנים, כמו שכונת בית דוד או שלוש השכונות בגוש הנחלאות הנקראות בשם הוועד - "כנסת ישראל".
25. מפעלי גמ"ח למסעד, פרנסה ולבניין - הוועד ניהל קרנות גמ"ח לעניים שנזקקו להלוואה לצרכים שונים, ובעיקר לפתיחת בתי עסק ומסחר או לבניית בית או שכירת דירה. אחת מקרנות אלה למשל הייתה "אוצר החסד קרן שמואל" שהוקמה ב-1906 במלאת לרב שמואל סלנט 90 שנה. קרן זו העניקה הלוואות בתנאים נוחים ללא ריבית לשנים רבות, והיא פעילה עד ימינו.
26. מרכז רוחני לתורת יישוב ארץ ישראל וחינוך מגידים - מפעלו היחיד של הוועד שלא עסק בפרנסה ובחיי היומיום הקהילתיים, היה ניהול בית מדרש שבו נמסרו שיעורי קבלה מ"תורת ארץ ישראל" שהתבססה על רעיונות הגר"א ותלמידיו. בבית מדרש זו הוכשרו "מגידים" שלימדו את "תורת ארץ ישראל" בארץ ובעיקר בחו"ל, ועסקו ברעיונות של קיבוץ גלויות, בניין ירושלים והרחבת היישוב.