בשנות ה-30 הגיע דוד בן-גוריון למסקנה שעליו ליצור קשר עם מנהיגי התנועה הלאומית הפלסטינית ולשאת ולתת עמם. הוא בחר לפנות אל עלמי, ובתחילת אפריל 1934 נפגש עמו לראשונה בביתו של משה שרת בירושלים. בן-גוריון תיאר בפניו עד כמה מועילה העלייה היהודית לארץ ישראל ולתושביה הערבים, אולם עלמי השיב: "אני בוחר שהארץ תהיה עניה ושוממה אפילו עוד מאה שנה, עד שאנחנו הערבים נהיה מוכשרים בכוח עצמנו להפריחה ולפתחה". הוא הציע בפני עלמי הקמת פדרציה ערבית, שאליה תצטרף המדינה היהודית, וכך יהוו ערביי ארץ ישראל מיעוט במדינה היהודית, אך חלק מהרוב הערבי הגדול בפדרציה. עלמי הסכים לדון בכך, אולם פגישתם הבאה התעכבה למספר חודשים, משום שעלמי היה עסוק בעבודתו במשפט רצח ארלוזורוב ולאחר מכן חלה. באמצע אוגוסט ביקר אותו בן-גוריון בביתו הכפרי ליד ירושלים. עלמי אירח אותו בביתו בכפר הקטן שרפאת , מדרום לירושלים. בן-גוריון הציע תוכנית בת שני שלבים: שלטון יהודי-ערבי משותף, שבו מעמד שווה לשתי הקהילות, שלא על פי יחס מספרי, ומאוחר יותר מדינה יהודית משני עברי הירדן, שתהיה חלק מפדרציה אזורית שתכלול את עיראק. עלמי, לעומת זאת, דיבר על אפשרות של קנטון אוטונומי בלבד ליהודים סביב תל אביב, שיהווה את הבית הלאומי היהודי ויהיה חלק מהמדינה הערבית העצמאית. הייתה זו הראשונה בסדרת שיחות שקיימו השניים בביתו הכפרי של עלמי ובדירתו בירושלים. באחת השיחות הרגיע בן-גוריון את עלמי בנוגע להר הבית והבטיח לו שהיהודים יבנו את בית המקדש רק כשיבוא המשיח. לאחר מספר שיחות, דיווח עליהן עלמי למופתי של ירושלים אמין אל-חוסייני. בהמלצת עלמי, נפגש בן-גוריון בז'נבה עם ראשי ה"אסתקלאל".
באותה תקופה מכרה משפחת אל-עלמי ליהודים 900 דונם באזור בית שאן, בהן אדמות הקיבוץ טירת צבי.
ב-1936 נפגש עלמי גם עם יהודה לייב מאגנס, שהביע את הסכמתו להגבלת העלייה היהודית ל-30 אלף נפש בשנה.
בסוף יוני 1936, בזמן המרד הערבי הגדול, הופעל לחץ מצד החוגים הקיצוניים להצטרפות פקידי הממשלה לשביתה הכללית. במקום לשבות, הגישו הבכירים שביניהם תזכיר לממשלה, שהוכן על ידי עלמי, שבו הביעו את תסכולם של הערבים מהמצב, קבעו שהפתרון היחיד הוא הפסקת ההגירה היהודית והביעו את הזדהותם עם מטרות השביתה. עלמי טרח על הכנת התזכיר רק לאחר שהנציב העליון ארתור ווקופ הביע את הסכמתו לקבל אותו. משרד המושבות והנציב העליון הבליגו על עצם הגשת התזכיר בשל "ניסוחו המתון".
עם המופתי ובועד הערבי העליון.
ב-1937 התפטר עלמי מהשירות הממשלתי והצטרף אל המופתי חאג' אמין אל-חוסייני בביירות. הוא היה מקורב אליו ולחוגים הקשורים בו. הוא היה יועצו הקרוב ואף היה קרוב אליו קרבה משפחתית: הוא היה גיסו של ג'מאל אל-חוסייני, בן דודו של המופתי. היו לו קשרי חיתון גם עם משפחת אל-ג'עברי, אחת המשפחות החשובות בסוריה. עם דיכוי המהומות, ברח מהארץ וישב עם המופתי ואנשיו בסוריה. ב-1937 נשלח על ידי אמין אל-חוסייני לברלין, לפגישה עם אדולף היטלר, אולם שליחותו נכשלה ופגישה כזו לא התקיימה. בשנים 1938–1939 ישב בלונדון ועסק בהכנות לועידת השולחן העגול. בוועידה עצמה שימש נציגו האישי של המופתי. הוא השתתף בוועדה שבחנה את מכתבי מקמהון–חוסיין. ב-1939 עבר לעיראק ושימש יועץ משפטי של המופתי. לאחר כישלון מרד רשיד עאלי, נשאר לשבת שם עד שובו לארץ בסוף 1941. במשך 3 שנים מאז ששב, התרחק מעניינים פוליטיים. ב-1942 היה עלמי בין נושאי ארונו של ג'ורג' אנטוניוס. בסתיו 1944, כאשר העסקנים הפלסטינים לא הצליחו להסכים ביניהם על הרכבת משלחת לוועידה המכינה של האחדות הערבית, הם נאלצו לשגר נציג יחיד, "בלתי מפלגתי" – מוסא אל-עלמי.
בשנת 1945 התמנה עלמי לחבר הוועד הערבי העליון, כ"בלתי מפלגתי". הוא נתמנה למזכיר הוועד ומונה כראש מחלקת ההסברה של הארגון ומאוחר יותר גם כנציג הרשמי של הפלסטינים בליגה הערבית, אך חדל להיות הנציג הפלסטיני היחיד בה ולא השתתף בישיבות הוועד. עלמי התמסר להקמתם של משרדי התעמולה הערביים. הוא נסע רבות בין בירות ערב כדי לגייס כספים, והצליח להקים משרדים בלונדון ובוושינגטון ומשרד מרכזי בירושלים. ב-1946 הוקם בביירות המשרד הראשון בארצות ערב. בפרשת "הצלת האדמות הערביות" הסתכסך עם חוגי "קופת האומה", שעסקו גם הם באותו תחום, אז מעמדו נשמט כנציג המוסכם על כולם. הוא ירד במקצת מן הבמה הפוליטית באביב 1946 ובמיוחד מאז שמונה הוועד הערבי העליון החדש על ידי הליגה הערבית בלי שיתופו.
במהלך עבודת ועדת החקירה האנגלו-אמריקאית לענייני ארץ ישראל בפברואר-מרץ 1946, הגיש "המשרד הערבי" (סוכנות התעמולה הפלסטינית), שבראשו עמד עלמי, סקר לוועדה שנקרא "שאלת פלשתינה", שאמר בין היתר, כי אין התיישבות היהודית בפלשתינה וההתנגדות הערבית לה מקבילות להתיישבות הלבנים בצפון אמריקה ואוסטרליה ולהתנגדות הילידים שם, וכי השגשוג הכלכלי שאולי תביא הציונות לפלשתינה, לא ישכנע את הערבים להפסיק את התנגדותם לתנועה זו, שחותרת לנשל אותם.
בשנת 1947 הוא ייסד קרן ערבית לאומית במטרה לפתח את אדמות ארץ ישראל בידי ערבים. בתפקידו בוועד הערבי העליון היה עלמי הדובר שדחה את תוכנית החלוקה בטענה שהיא פרו-ציונית.
עם הסלמת הסכסוך היה מנאמני המלך עבדאללה, יזם את כניסתם של חיילי לגיון בלבוש אזרחי לשטח המנדט, להכנת השתלטותו של עבדאללה על השטח שהוקצה למדינה הפלסטינית, והוא שהזמין רשמית את חיילי הלגיון לבוא לסייע לפלסטינים. באותה תקופה ניסה עלמי ללחוץ על פארוק הראשון שמלך על מצרים שיצטרף לפלישת צבאות ערב לאחר סיום המנדט הבריטי בארץ ישראל, ולשם כך אף כינה אותו תכיפות "נשיא פלסטין".
במהלך עבודתה של ועדת אונסקו"פ ב-1947, החרים אותה הוועד הערבי העליון, אולם עלמי, יחד עם ססיל חוראני, מזכיר "המשרד הערבי" בוושינגטון, הגישו לה "באופן עצמאי" תזכיר שהציג את העמדה הערבית. עם פרסום דוחות הוועדה, אמר עלמי שערביי ארץ ישראל יתקוממו הן נגד דוח הרוב והן נגד דוח המיעוט.
בפברואר 1948 ביקר בדמשק, ובסוף אותו חודש ביקרו עלמי ונכבדים פלסטינים נוספים, אצל עבדאללה הראשון, מלך ירדן, בעמאן, וביקשו את עזרתו ואת התערבותו הצבאית בתוך ארץ ישראל. עלמי תמך בהצבת הלגיון הערבי באזורים הערביים של ארץ ישראל והציע להחדיר אותם בלבוש אזרחי לפני סיום המנדט. הוא טען כי אם עבדאללה לא יעשה זאת, יעשו זאת הסורים והלבנונים.
באוקטובר 1949, לאחר תבוסת ערביי ארץ ישראל במלחמת העצמאות (הנכבה), פרסם עלמי מאמר בשם "The Lesson of Palestine" ("לקח פלסטין"), בכתב העת "The Middle East Journal", בו ביטא את התגובה הפלסטינית לתוצאות המלחמה, שהטילה על בריטניה את אשמת כישלונם של הערבים בארץ ישראל. כמו כן, הצביע על הפירוד בקרב הערבים כסיבה למפולת שלהם.
שיקום הפליטים.
כבר בשנת 1945 הגה עלמי את הרעיון לתת לערביי ארץ ישראל חינוך חקלאי שיאפשר להם להתפרנס בכבוד מחקלאות וימנע מכירת קרקעות ליהודים. בשנת 1946 הביא עלמי את חבר המדינות הערביות להחליט על מימוש הרעיון, אולם רק עיראק הקציבה בפועל כסף למפעל. ברבע מיליון הלירות שנתנה לו ממשלת עיראק, רכש עלמי 20,000 דונם באזור יריחו.
לאחר מלחמת העצמאות התפנה עלמי להקים את "המפעל הקונסטרוקטיבי לקידום הכפר ומשקו", שהקימה חווה חקלאית לפליטים פלסטינים ממזרח ליריחו, חווה הקרויה היום "משרוע מוסא אל-עלמי". לצורך הקמת החווה ניסה עלמי לנתב אליו תקציב שנותר בקופת המשרד הערבי בלונדון. בחווה התגוררו נערים פלסטינים שגידלו פרות, והיא מומנה מתרומות, בין השאר של אוקספם וקרן פורד. המלך עבדאללה הקצה לחווה 20,000 דונם. החווה שגשגה בין 1951 ל-1955, נחפרו בה בארות, נבנו תעלות והיא העלתה יבולים חקלאיים, עבדו בה והתפרנסו ממנה פליטים פלסטינים. לצידה הוקמו בריכת שחיה, מרפאה, בית ספר ופנימיה למאות יתומים.
בדצמבר 1954 נודע למודיעין הירדני כי אמין אל-חוסייני מתכנן להתנקש בחייו של עלמי.
בתקופה זו שיקום פליטים נחשב לבגידה ברעיון של שימור זכות השיבה וקיבוע מצב הפליטות ומוסא עלמי הוצג כבוגד. בדצמבר 1955 כחלק ממהומות נגד ממשלת ירדן, פלש המון מתפרע לחווה, הרס ושרף את החווה שהיוותה מודל לפעולות שיקום הפליטים. הפורעים בזזו 15,000 תרנגולות ואווזים וגרמו נזק שהוערך בכ-10,000 דינר ירדני.
לאחר מספר חודשים שוקמה החווה, בין השאר הודות לתרומות שאסף עלמי בארצות הברית. במהלך מלחמת ששת הימים היה עלמי במסע גיוס כספים בלונדון. אחרי המלחמה הזמינה ישראל את עלמי לשוב ליריחו ובקשה לדאוג להמשך פעילות החווה. למנהל החווה נתנה רשות לערוך קניות לחווה בתל אביב ומדריכים ישראליים הגיעו להדריך בחווה בשיטות להדברת מזיקים. בתחילת 1968 עבדו ולמדו בחווה כ-125 נפשות.
במאי 1969 הופגזה החווה פעמיים על ידי תותחים שירו מעבר הירדן המזרחי.
ביוני 1969 נפגש עלמי עם בן-גוריון, לבקשתו של ראש ממשלת ישראל לשעבר. הפגישה הסודית נערכה בחדר המלון של בן-גוריון בלונדון, והשניים שוחחו בה על האפשרויות להסדר מדיני בין ישראל וערביי השטחים. הם קבעו פגישה נוספת, אולם לא ידוע אם התקיימה.
בינואר 1970 נפגש עלמי עם מנהל החווה שלו ליד גשר אלנבי, ושבוע לאחר מכן הגיע אל החווה, לראשונה מאז מלחמת ששת הימים.
משפחתו, מותו והנצחה.
בבעלות המשפחה היו נכסי אדמות רבים בארץ, החל מאדמות ביריחו עליהן הקים חווה חקלאית, מקרקעין בירושלים, ונכס קטן במישור החוף הדרומי ששימש כבית קיט, הוא בית מוסא עלמי בסמוך לקיבוץ זיקים.
חותנו של עלמי היה המנהיג הסורי הגולה אחסאן ביי אל-ג'אברי.