בשנת 1935 הגיעו הגירת היהודים לארץ ישראל ורכישות הקרקע שלהם לשיא. ערביי ארץ ישראל חששו שתהליך זה עלול להפוך אותם למיעוט בארץ. באמצע אוקטובר אותה שנה נתגלתה הברחת נשק יהודי בחביות מלט בנמל יפו. בלחץ ציבורי כבד, החלו המפלגות הערביות להגיש מחאות לממשלה. מפלגת "ועידת הנוער" קראה לשיתוף פעולה, ונציגי כל המפלגות, למעט מפלגת אל-איסתקלאל, הכריזו על שביתה כללית ב-26 באוקטובר 1935. בתזכיר שהגישו לממשלה, הדגישו המפלגות כי היהודים צוברים נשק ומתאמנים בו ומתכוננים למלחמה. הן תבעו מהממשלה לחפש נשק לא-חוקי אצל היהודים ולאסוף בחזרה את הנשק שנתנה בעבר ליישובים היהודיים. הצלחת השביתה על ידי פעולה משותפת של המפלגות הייתה הבסיס להקמת הוועד הערבי העליון. "ועדת נציגי המפלגות" (שכונתה "קואליציית המפלגות") המשיכה לתכנן פעולות נוספות, עדיין מתונות, אולם בנובמבר נהרגו עז א-דין אל-קסאם ושלושה מחבריו על ידי כוחות ביטחון הבריטיים. אירוע זה ליכד את הקואליציה וב-25 בנובמבר 1935 הגישו נציגי חמש המפלגות תזכיר משותף לנציב העליון, שבו תבעו את הפסקתה המידית של הגירת היהודים, איסור על העברת קרקע ערבית ליהודים, ו"כינון ממשלה דמוקרטית" בהתאם לברית חבר הלאומים, תוך הגשמת הסעיף בכתב המנדט המחייב את הממשלה "לפתח מוסדות ממשל עצמי". עם זאת, הודגש בתזכיר כי הערבים אינם מכירים במנדט עצמו.
המרד הערבי הגדול 1936–1939.
עם פרוץ המרד הערבי כנגד הבריטים באפריל 1936, הוכרזה שביתה, הוקמו "וועדות לאומיות" וב-25 באפריל הוקם הוועד הערבי העליון, שהפך לגורם המשמעותי ביותר בתנועה הלאומית הפלסטינית עד 1949.
לוועד הזה מינו עצמם ראשי שש המפלגות, ובראשם חאג' אמין אל-חוסייני. עם הקמת הוועד, התחייבו המפלגות השונות להפסיק כל פעולה נפרדת ולמעשה חדלו להתקיים מאותו יום ואילך. מחיר האחדות הלאומית הפלסטינית היה כפיפותם של מנהיגי החוגים והסיעות למרותם של החוסיינים. כך הצליחו אלה להשתלט על הציבור הערבי למשך מספר שנים.
המרד הערבי הצליח לאחד את התנועה הלאומית הפלסטינית לזמן קצר, אולם רצח של מאות משתפי פעולה (אמיתיים ומדומים), והתייחסות מזלזלת מצד החמושים לאוכלוסייה האזרחית - תרמו להידרדרות מצבה של התנועה הלאומית.
לאחר שבסוף יוני 1937 נעשה ניסיון לרצוח את פח'רי נשאשיבי, עזבו בתחילת יולי ראע'ב נשאשיבי ויעקוב פראג', נציגי "מפלגת ההגנה" הנשאשיבית, את הוועד הערבי העליון. המרד לא ייצג מעתה את כל ערביי הארץ, אלא רק את חוגי "אסתיקלאל" והחוסיינים.
הבריטים עודדו יריבויות בין הפלגים השונים, וכתוצאה מכל אלה אף הוקמו "כנופיות השלום", שהתנגדו לכנופיות הטרור של המרד והעמיקו עוד יותר את הפילוג בתוך התנועה.
לאחר הגשת מסקנות ועדת פיל דחה אותם הוועד במסגרת ועידת בלודאן - ועידה כל-ערבית למען פלסטין, שנערכה בבלודאן שבסוריה ב-8 בספטמבר 1937. במהלך הוועידה, נוסדה "ועדת ההגנה על פלסטין", שניגשה לגייס כספים ונשק ופתחה במסע הסברה נגד תוכנית החלוקה והשלטון הבריטי. ב-26 בספטמבר נרצח בנצרת המושל בפועל של מחוז הגליל מטעם הנציב העליון, לואיס אנדרוס שנחשב אוהד לציונות. בעקבות הרצח נקטו הבריטים יד קשה כנגד הערבים.
ב-1 באוקטובר 1937 פזרה הממשלה את הוועד הערבי העליון והכריזה עליו כגוף בלתי חוקי. הוצאו פקודות מאסר נגד חבריו ומנהיגים נוספים. אחדים נאסרו וחמישה הוגלו לאיי סיישל. אמין אל-חוסייני פוטר ממשרתו כנשיא המועצה המוסלמית העליונה, והצליח להימלט ללבנון.
באוקטובר 1938 התכנס בקהיר "קונגרס בין-פרלמנטרי להגנת פלסטין", בהשתתפות נציגים ממדינות ערביות ומוסלמיות. המתכנסים קראו לבריטניה לכונן "שלטון ייצוגי" בארץ ודחו את רעיון החלוקה.
דיכוי המרד (החל מ-1938 וביתר שאת ב-1939) גרם לתנועה נזק משמעותי ביותר.
בתקופה זו הצליחה, אמנם, התנועה הלאומית הפלסטינית לזכות בהישג משמעותי עם קבלת הספר הלבן השלישי (1939) על ידי ממשלת בריטניה, אך מרבית המפלגות הערביות דחו את הספר כפתרון בלתי מספק היות שלא אסר כליל את העלייה היהודית.
מלחמת העולם השנייה 1945-1939.
חלק מהגולים חזר לארץ ישראל במהלך מלחמת העולם השנייה, ובהם יעקוב ע'וסיין, עווני עבד אל-האדי וחוסיין ח'אלידי. אולם רבים עברו בשנת 1939/40 לעיראק, שם שיתפו פעולה עם יוזמי ומארגני מרד רשיד עאלי (1941). בשעת המרד היו בעיראק כ-300 גולים פלסטינים. החשובים שבהם: אמין אל-חוסייני, ג'מאל אל-חוסייני, אמין אל-תמימי, עבד אל-קאדר אל-חוסייני, אמיל אל-ע'ורי, ומפקדי הכנופיות עארף עבד אל-ראזק וחסן סלאמה (פח'רי נשאשיבי נרצח בנובמבר 1941 בבגדאד על ידי פלסטיני). לאחר כישלון המרד, ברחו אמין אל-חוסייני, עבד אל-ראזק וחסן סלאמה ועוד רבים אחרים לגרמניה (עליהם נוספו בין היתר רשיד עאלי אל-כילאני ופאוזי קאוקג'י) ושהו בתחום מדינות הציר עד לסוף מלחמת העולם השנייה. ג'מאל אל-חוסייני נאסר בדרכו על ידי הבריטים והושם במעצר ברודזיה. ביוני 1946 ברח אמין אל-חוסייני למצרים.
במהלך מלחמת העולם השנייה שיתפה התנועה הלאומית הפלסטינית פעולה עם מדינות הציר והכריזה ג'יהאד על בנות הברית כתוצאה מהבטחה שאמין אל-חוסייני קיבל מאדולף היטלר שבה נאמר שגרמניה תשמיד את הייסוד היהודי הקיים בארץ ישראל לאחר הניצחון הגרמני במלחמה, המנהיגות הפלסטינית סייעה לגרמנים בגיוס מוסלמים לוואפן אס אס ונערך מבצע צבאי פלסטיני-גרמני בארץ ישראל - מבצע אטלס. עובדה זו גרמה להידרדרות יחסיה עם בריטניה, אשר פנתה לשיתוף פעולה עם היישוב במהלך התקופה המכונה מאתיים ימי חרדה.
הליגה הערבית 1945–1947.
לאחר המלחמה שודרג מעמדה של התנועה הלאומית הפלסטינית עם הקמת הליגה הערבית ב-1945.
בנספח לאמנת הליגה, נקבע שכל עוד אין מדינה לפלסטינים, הם ייוצגו בליגה על ידי "מייצג פלסטין" שימונה על ידה. בכך למעשה נטלו לעצמן מדינות ערב חסות על הפלסטינים ועל מאבקם בציונות.
מימוש שאיפותיהם הלאומיות של הפלסטינים הוכר כחלק מיסודות הליגה, דבר שאף הביא לשיקומו של הוועד הערבי העליון.
ב-20 בנובמבר 1945 הוקם הוועד הערבי העליון מחדש, בעזרת התערבותה הישירה של הליגה הערבית, ללא יושב ראש (ג'מאל אל-חוסייני, שעדיין לא שב), והנשיאות שלו נשארה פנויה לחאג' אמין אל-חוסייני. הרכבו היה ברובו מחוג החוסיינים.
אולם הכוחות ה"צעירים" והמשכילים, הבלתי-מפלגתיים, ארגוני הפועלים והקומוניסטים לא שותפו בוועד העליון ולא הכירו בו. הם דרשו בחירות דמוקרטיות לוועד חדש ואף כמה מחברי הוועד עצמם לא השתתפו בישיבותיו (ח'אלידי, נשאשיבי, עלמי וסלאח). מלבד זאת, מאחר שהמפעלים האופרטיביים היחידים של הפלסטינים - משרדי התעמולה ו"המפעל הקונסטרוקטיבי" ו"קופת האומה" (שמטרתם "הצלת קרקעות"), לא היו כפופים לוועד, נותר הוועד גוף ללא סמכות וכוח ביצוע.
בסוף ינואר 1946 הותר לג'מאל אל-חוסייני לשוב לארץ ישראל, ומיד עם שובו בפברואר לקח לידיו את המנהיגות הראשית במפלגה החוסיינית ובוועד הערבי העליון.
בחודש מרץ נתפרק הוועד וג'מאל אל-חוסייני מינה על דעת עצמו ועד עליון חדש ומורחב, על ידי צירוף מספר רב של תומכיו. אלא שמנהיגי חמש המפלגות האחרות לא נענו להזמנה והודיעו כי אינם מכירים בוועד החדש, ומאוחר יותר הקימו ועד נגדי בשם "החזית הערבית העליונה". בחודש יוני פיזרה הליגה הערבית את הוועד הערבי העליון ואת החזית הערבית העליונה ומינתה "ועד-פועל עליון" לערביי פלסטין ובו 4 חברים: ג'מאל אל-חוסייני (ממלא מקום הנשיא), חוסיין אל-ח'אלידי (מזכיר), אחמד חלמי ואמיל אל-ע'ורי, ובראשם נשיא שאין מזכירים את שמו בגלוי: חאג' אמין אל-חוסייני. בכך סמכה הליגה את ידיה על המנהיגות של החוסיינים.
הגוף החדש הוקם עתה בשם "המוסד הערבי העליון" והוא הוכפף ל"ועדת פלסטין" של המזכירות הכללית של הליגה הערבית.
בתחילת מאי 1946 החליט הוועד הערבי העליון על הקמת "בית האוצר הערבי" (בית אל-מאל אל-ערבי) כמוסד הפיננסי המרכזי של התנועה הלאומית הפלסטינית, שנועד לרכז את גביית הכספים מהציבור הפלסטיני ואת התרומות מארצות ערב, ולממן את פעילות המוסדות הלאומיים של הפלסטינים. באפריל 1947 הושלמה השתלטות הוועד הערבי העליון על "קופת האומה". "בית האוצר הערבי" החל לפעול, אולם הצלחתו בגיוס כספים מערביי ארץ ישראל הייתה זעומה.
בינואר 1947 שוב שונה הרכב הוועד, תוך שהוא מאחד את מרבית הפלגים של ערביי ארץ ישראל ומצליח לצבור כוח משמעותי, לייסד סניפים ולהשיג כספים.
באותו חודש הוזמן הוועד על ידי ממשלת בריטניה לוועידה בלונדון על בעיית פלסטין. במאי 1947 הוחלט באו"ם כי הוא ייצג את ערביי ארץ ישראל כלפי האו"ם.
הנכבה 1948.
לקראת מלחמת העצמאות של ישראל הלכה הנהגת התנועה הלאומית הפלסטינית והתפוררה, בעיקר בשל "בחישה" של מדינות ערב השכנות, שכל אחת מהן שאפה לספח אליה ככל הניתן משטחי המנדט. במיוחד התבלטה ירדן, אשר הציבה לעצמה מטרה לספח את כל השטחים שיתפנו על ידי המנדט. מצב זה, יחד עם תלות ניכרת של ההנהגה (ובמיוחד הוועד הערבי העליון) במדינות ערב, גרם לאי-יכולת של הפלסטינים לנהל תנועה לאומית מאוחדת.
פעילותה העיקרית של התנועה הלאומית הפלסטינית בתקופה זו התמקדה בהכנה להשתלטות על שטחי המנדט לאחר התפנות הבריטים. כמעט כל פלגי התנועה דחו דחייה מוחלטת את הצעת החלוקה כאשר ההחלטה הפורמלית על כך התקבלה על ידי הוועד הערבי העליון ביום קבלת ההחלטה באו"ם.