השינוי הדמוגרפי העמוק שהתרחש בניו יורק בעשורים האחרונים של המאה ה-19 שינה את פניהם של מוסדות הקהילה השונים. קהילת "יד ביד" הפכה מקהילה ענייה לאחד מן המרכזים של היהדות הרפורמית בניו יורק. כבר בעת מעברם של מהגרים יהודים-גרמנים לשכונה הועתקו מוסדות דת וקהילה מדרום מנהטן צפונה להארלם, וקהילות (Congregations) שונות קבעו את מרכזן בשכונה. בית הכנסת הקהילתי החשוב "טמפל ישראל" הועבר ב-1903 למרכז הארלם; הוא אירח יהודים בולטים, והתפרסם בפאר הארכיטקטוני שלו.
הקהילה בהארלם כללה משפחות ניו יורקיות ותיקות ומכובדות, חלקן צאצאיות למשפחות שחיו באמריקה עוד מהתקופה הקולוניאלית. על נאמני הקהילה בהארלם של סוף המאה ה-19 נמנו אישים דוגמת העסקן דניאל הייס (Daniel Hays), שהיה נשיא הקהילה, הפולטיקאי הניו יורקי סיירוס זלצבורגר (Cyrus L. Sulzburger), בן למשפחת זלצבורגר היהודית-גרמנית הנודעת, והדיפלומט המפורסם בנג'מין פישוטו (Benjamin F. Peixotto). שלושתם נודעו בציבוריות האמריקאית הכללית, ואף עמדו בקשרי חיתון ביניהם.
הארלם – גטו יהודי חדש.
הריכוז היהודי החדש בהארלם ניכר בתהליכי הגטואיזציה שעבר; ההיסטוריון גורוק אפיין את הגטו היהודי בניו יורק כחברה שביקשה לענות על מגוון הצרכים החברתיים והכלכליים בשיתוף פעולה פנים-יהודי הדוק, תוך שמירה על קשר אקסקלוסיבי עם הקבוצה האתנית. זהו למשל דפוס הפעולה שאפיין את הגטו של הלואר איסט-סייד: מרחב יהודי המורכב מלאנדסמנשאפט (Landsmanschaftn) – התארגנויות עזרה הדדית בין יהודים שמוצאם מאותה עיר באירופה; קהילות חברתיות שמרכזן הוא בית הכנסת שלהן (Congregation); חדרים רבים מספור ללימוד תורה לילדים, וישיבות בסגנון אירופאי – לצד ארגונים יהודיים רדיקליים של מקומות עבודה, מפלגות סוציאליסטיות ואיגודי עובדים. ואכן, דפוס הפעולה הזה ניכר היה באופן נרחב ביותר דווקא בהארלם. הגטו העניק למהגר הוותיק והחדש כאחד אווירה מוכרת וחוויה של שייכות יהודית. לצד זאת, חוויית הדלות שבו, הצמיחה גם תופעות שהילכו על סיפו של החוק, ואף עברו עליו באופן מאורגן – דוגמת המאפייה היהודית הנודעת.
שני גורמי הגירה שונים הביאו את הקבוצות המגוונות שיצרו את הגטו היהודי של הארלם; היצע של דירות משופרות וזולות יותר מאשר בלואר איסט-סייד, שהיה גורם משיכה פנים עירוני משמעותי; ומתיחת פנים שעברה ניו יורק "בהוראה מגבוה" סביב שנת 1900, ודחפה החוצה תושבים מן הגטו היהודי הצפוף בלואר איסט סייד, בו חייה רבע מאוכלוסיית ניו יורק; פריצת 'חומות' הגטו הפכה לכורח עירוני, על רקע השינויים האורבניים המקיפים במנהטן: ניו יורק הפכה ערב המאה ה-20 לעיר השנייה בגודלה בעולם אחרי לונדון, עם אוכלוסייה של קרוב ל-3.5 מיליון איש (1898).
עד אמצע שנות ה-90 של המאה ה-19 הייתה הארלם יעד הגירה משני, פנים-עירוני, למשפחות שכבר חיו לפני כן בניו יורק. החל ממחצית העשור, הביא שילובם של שני גורמי ההגירה להארלם, לראשונה, מהגרים יהודיים שאך זה נחתו בחופי אמריקה ולא מצאו דיור זמין בלואר איסט-סייד. הארלם הפכה לבית הראשון באמריקה של משפחות מהגרים ממזרח אירופה. המגמה שהחלה ב-1895 לערך הלכה והתעצמה בתחילת המאה ה-20, וסללה את הדרך ליצירת הגטו של הארלם. ידיעה בניו יורק טיימס מ-1903 ציינה כי "הגטו היהודי [...] איננו מוגבל רק לחלק אחד של העיר... [אלא התפשט גם] לאותו חלק של הארלם הממוקם בין רחובות 100th ו-125th, מזרחית לשדרה החמישית". השכונה כולה התרחבה בזכות תנופת הבנייה הכבירה ושיפור אמצעי התחבורה בין הארלם לעיר התחתית. אותה קבוצה הולכת וגדלה של מהגרים עניים התרכזה גאוגרפית בעיקרה משני צדדיה של השדרה השלישית – לב ליבה של איסט הארלם.
הארלם היהודית – אוכלוסייה, כלכלה ודת.
אוכלוסייה.
העלייה היהודית לצפון מנהטן הייתה רק חלק משינויי ההרכבים האתניים של האוכלוסייה בהארלם. מ-1900 החלו להגיע לראשונה גם תושבים שחורים להארלם. ההגמוניה האירית-גרמנית בהארלם תמה כאמור בין 1900 ל-1910 – הם הפכו ממחצית מהאוכלוסייה לרק חמישית ממנה - ושלוש הקבוצות האתניות הגדולות היו יהודים מזרח-אירופאים, איטלקים ושחורים. מבין 200 אלף תושבי השכונה ב-1910, מחצית היו יהודים; מחצית מהם חיו באיסט הארלם, דרומית לרחוב 110th ומזרחית לשדרה החמישית. כל זאת על רקע העובדה שבאותה שנה, 1910, היו היהודים בניו יורק לרבע מאוכלוסיית העיר כולה.
כלכלה.
קונפליקטים כלכליים ואתניים שונים עלו על רקע התרחבותה הדרמטית של השכונה. תחרות קשוחה בין בעלי הנכסים הובילה למלחמת שכירות, שהגיעה למצב חמור בו בעלי בתים הציעו בתים להשכרה בחינם לפרק זמן של כמה חודשים, ולאחר מכן ביקשו שכירות מזערית. מלחמת המחירים נתקלה בהתאגדות של בעלי בתים רבים שלא רצו לרדת לרמת מחירים בלתי-אפשרית. בינתיים היגרו כבר אלפי משפחות יהודיות ממוצא מזרח אירופאי לשכונה, ויהודים השתלבו כצבעים, נגרים, רפדים ומעצבי פנים בתעשיית הבנייה. ב-1900, כשליש מן הפועלים היהודיים המזרח אירופאים ברובע המערבי של מזרח הארלם עבדו בתעשיית המחט, ושליש נוספים בתעשיית הבנייה. היהודים בניו יורק היו מוכשרים יותר לעבודתם לעומת קבוצות אוכלוסייה אחרות, בשל הניסיון שצברו וההכשרה המקצועית שעברו. נכונותם לעבוד בשכר מועט גרמה להורדת שכר העבודה הכללי. תושבים לא-יהודים בהארלם התלוננו שהפועלים היהודים תופסים את מקומות העבודה בתעשיית הבנייה. נציגי איגודים מקצועיים התנגדו למגמה הזו, מתוך רצון להגן על אנשיהם.
בתוך הקהילה היהודית רבו המתחים המעמדיים; משקיעי נדל"ן יהודים עשו הון מהיר בקריאתם נכונה את זרם ההגירה להארלם. היחסים בינם ובין הציבור היהודי הרחב בהארלם היו עכורים בשל הפקעת מחירי השכירות. המשקיעים היהודים ראו בקהילה היהודית בהארלם מכשיר להתעשרות, והואשמו בחוסר רגישות כלפי אלה שהפכו את הארלם לביתם. ב-1904 עלתה תנועת מחאה כללית נגד השכירות המתייקרת בשכונה, שהושפעה ממחאה דומה בלואר איסט-סייד וכן מתנועות סוציאליסטיות שונות שהפנו את הכעס אל האלמנט המעמדי. שוכרי דירות רבים החליטו להחרים את מועד תשלום שכר הדירה לבעלי הדירות החמדנים, והחרם החזיק מעמד מספר שבועות. הסוציאליסטים ראו בכך הישג של ממש, אולם הבעיה לא נפתרה מיסודה. ארבע שנים לאחר מכן, ב-1908, חודשה תנועת החרמת תשלום שכר הדירה בשכונות המהגרים, בשל לחץ הולך וגובר של הפקעת מחירים. מסורת תנועת החרם על תשלומי שכר הדירה תוסיף ותכה שורש בהארלם. בשנים שלאחר המשבר הכלכלי הגדול של 1929 הובילה תנועת החרם להפחתה משמעותית של שכר הדירה, ולהסדרת הפיקוח על מחירי השכירות, בד בבד עם התחזקות המפלגה הקומוניסטית בשכונה.
במקביל להפיכתה לצפופה וסואנת, הלכה הארלם ולבשה אופי פרולטרי מובהק; שיעורם היחסי של עובדי הצווארון הלבן היהודים ירד משמעותית. היהודים המבוססים שהיו הראשונים להגיע להארלם, החלו לעזוב את בתיהם סביב 1900, ובמקומם נכנסו בהמוניהם פועלים יהודיים. בעשור הראשון למאה ה-20 התמלא אותו חלק בשדרה החמישית בהארלם שהיה שיכון לעשירים במהגרים דלי-אמצעים. היהודים העשירים יצאו מן הגטו של איסט הארלם, לשכונה משלהם. כבר ב-1905 מרבית היהודים בהארלם היו פועלים מקצועיים, ואלה מהם שבכל זאת השתייכו למקצועות הצווארון הלבן, עבדו ברובם כפקידים או זבנים.
הפרולטריזציה הניכרת של הארלם הרחיבה עד מאוד את הקהילות הקונסרבטיביות בשכונה. לא בכדי בחרו חברי ה-JTS, המוסד העליון של הזרם הקונסרבטיבי האמריקאי, למקם באביב 1903 את בניינם הראשי בהארלם, שם הוא מצוי עד היום. בהארלם התהוותה גם אליטה יהודית מזרח אירופאית חדשה, שנשאה על שכמה מגמה של אמריקניזציה גוברת, והושפעה מן האורתודוקסיה המודרנית נוסח יהודי גרמניה. חלק מחברי אותה אליטה - ברוחה המודרנית-אורתודוקסית של "ישיבה יוניברסיטי" - דוגמת דייוויד כהן (David Cohen) והארי פישל נשאו את דגל האורתודוקסיה המודרנית בקהילה של הארלם. הדבר בא לידי ביטוי בראש ובראשונה בתחום החינוך: היציאה מן הסגירות האתנית הפחיתה את השפעת המסורת היהודית האורתודוקסית על ילדי המהגרים.
תלמוד התורה הישן של הגטו הוחלף בראשית המאה ה-20 בתלמוד התורה של מעלה העיר (Uptown Talmud Torah); זה התנהל תחת פדגוגיה אמריקנית חדשנית, אולם הוסיף ושילב בתוכניות הלימוד שלו תכנים יהודיים אורתודוקסיים. היה זה חידוש של ממש ביחס לתפיסות הדתיות המסורתיות, תוך שמירה על מסגרת האורתודוקסיה המודרנית. בשנים 1911–1912 שירתו מוסדות תלמוד התורה המודרניים בהארלם כשמונת אלפים איש לערך, בשמשם מרכזי חינוך, תרבות, וספורט קהילתיים. לצד בנייתם של מוסדות דת וקהילה מגוונים בהארלם, בתי כנסת רבים בשכונה הפכו עבור בני המהגרים למרכזים חברתיים שכונתיים, שינוי שעלה כתשובה למגמות החילון והנישואין המעורבים בעשורים הראשונים של המאה ה-20.
סופה של הארלם היהודית.
עשור השנים שבין 1920 ל-1930 היה אחריתה של הארלם היהודית. מלחמת העולם הראשונה הייתה קו שבר בכל הנוגע לריכוזי היהודים בניו יורק, והשכונות היהודיות שקמו לפני המלחמה, שינו את פניהן וחלקן אף נעלמו לאחר המלחמה. על הארלם היהודית עבר תהליך התרוקנות דומה לזה שהתרחש בשכונות יהודיות אחרות בעיר, דוגמת הלואר איסט-סייד וויליאמסבורג, שהיו מרכזים יהודיים לפני 1914. ערב המלחמה אכלסה שכונת הלואר איסט-סייד כ-25% מאוכלוסיית ניו יורק היהודית, ועשור בלבד לאחר מכן, ב-1925, חיו בה 15% מן היהודים. ויליאמסבורג איבדה בין 1916 ל-1925 כ-18 אלף יהודים לטובת שכונות אחרות.