בשיחה עם נציגי הוועד הפועל הערבי בירושלים במרץ 1921, דחה שר המושבות צ'רצ'יל את האפשרות שארצו תחזור בה מהצהרת בלפור: "מבקש אני להפנות את תשומת ליבכם אל החלק השני של הצהרת בלפור, המבטיח לתושבי הארץ במוצהר ובמפורש את ההגנה על זכויותיהם האזרחיות המדיניות [...]. העובדה, כי ארץ ישראל תכיל בית לאומי ליהודים, אינה אומרת שתחדל להיות בית לאומי לאחרים, או שתיכון ממשלת יהודים למשול בעם הערבי".
במאי 1921 מיהר מוסא כאזם אל-חוסייני להסתייג בפני הנציב העליון בשם הוועד הפועל מההתפרצויות האלימות של מאורעות תרפ"א.
בתגובה לנאומו של הרברט סמואל ב-3 ביוני 1921, קבע הוועד הפועל כי "שקט ושלווה ישררו בארץ רק כאשר יחיה בה עם אחד, בעל לשון אחת, לאומיות אחת ואינטרס אחד".
ב-2 בנובמבר 1921 הצליחו החוגים הקיצוניים להפוך את הפגנת המחאה נגד הצהרת בלפור להתפרצות נגד היהודים, אולם הוועד הפועל הסתייג ממנה והמשטרה הצליחה לדכאה. לאחר הפגנה זו, לא היו עוד התפרצויות אלימות עד 1929.
אחת הדרכים לביטול הצהרת בלפור הייתה באמצעי שכנוע והסברה. משלחת בראשותו של מוסא כאזם אל-חוסייני יצאה באוגוסט 1921 לשליחות של כשנה בבריטניה במהלכה פעלה לביטול ההצהרה.
פסקה 4 של סעיף 22 באמנת חבר הלאומים שנתקבלה ביוני 1919, קבעה כי "עדות מסוימות, שהשתייכו בעבר לאימפריה הטורקית הגיעו לדרגת התפתחות כזאת, כך שאפשר להכיר בהן, באופן זמני, כאומות עצמאיות... משאלותיהן של עדות אלה חייבות להיות השיקול העיקרי בבחירת המנדטור". בתזכיר של הוועד הפועל לחבר הלאומים ב-1922 טענו הערבים כי "סעיף זה מתייחס וחל על פלסטין ותושביה". כדי להוכיח את צדקת תביעתם לארץ ישראל, הציגו הפלסטינים, בין היתר, את טענתם הבסיסית בדבר הרציפות ההיסטורית של ישיבת הערבים בארץ. בתזכיר נכתב כי האוכלוסייה הערבית בארץ ישראל מורכבת "מצאצאי האנשים היושבים בה משחר ימי ההיסטוריה בתוספת האלמנטים האמורי, החיתי, הפניקי, הפלשתי ואחרים".
אולם מאמצי המשלחת לא הועילו. ביולי 1922 אישר חבר הלאומים את כתב המנדט ובכך קיבלה הצהרת בלפור גושפנקה בינלאומית נוספת לזו לה זכתה בועידת סן רמו שנתיים קודם לכן.
בינואר-פברואר 1921 ארגן הוועד הפועל מסע של שליחת מכתבים לעיתונים מצד גורמים ציבוריים שונים, המודיעים כי הוועד מייצג אותם ועמדותיו מייצגות את הציבור הערבי כולו. במשך הזמן נוצרה מתכונת עבודה בינו לממשלה והפגישות הרבות עמו שיוו לו משמעות ייצוגית הן בעיני הציבור והן בעיני הממשלה.
ב-1922 ביקשו שלטונות המנדט להרכיב מועצה מחוקקת שישבו בה עשרה מוסלמים, שני יהודים, שני נוצרים, ועשרה פקידי ממשלה ובראשה יעמוד הנציב העליון. "הוועד הפועל הערבי" סירב לקחת חלק במוסד החוקתי הזה, שכן סימל הדבר בעיניו השלמה עם כתב המנדט בכלל הצהרת בלפור בפרט.
באוקטובר אותה שנה, ערכה הממשלה מפקד אוכלוסין לקראת הבחירות למועצה. הוועד הפועל התנה את תמיכתו במפקד, בכך שיירשמו גם הפלסטינים שנמצאים מחוץ לארץ ישראל. הממשלה קיבלה את התביעה, והוועד הפועל קרא לאוכלוסייה הערבית לקחת חלק במפקד, שיקבע את גודלו של הרוב הערבי ובכך ישרת את עניינו. בפרשה זו הוכיח הוועד את יכולתו לשבש את כוונות הממשלה, והלחץ שלה עליו לקרוא לציבור הערבי להשתתף במפקד רק חיזק את מעמדו. מיד לאחר הוועידה החמישית, החל הוועד הפועל לארגן מסע לשכנוע האוכלוסייה להימנע מהשתתפות בבחירות, שהחל בספטמבר 1922, בהחלטה שחברי המשלחת של הוועידה החמישית יסיירו בערי הארץ ויסבירו את הנזק שבהשתתפות. בפברואר 1923 נערכו הבחירות, אך הן הוחרמו על ידי רוב הערבים ובמאי הן בוטלו. ההחרמה הפגינה את מידת השפעתו של הוועד הפועל על הציבור הפלסטיני. ניסיונות הממשלה להניא את הוועד הפועל מעמדתו השלילית לגבי מפקד האוכלוסין והבחירות, היו למעשה הכרה שלה בו כדובר הציבור הפלסטיני, אלא שהיא לא הסכימה להכיר בזכותו לפעול כנציגו.
ב-1922 החלו הוועד הפועל והמועצה המוסלמית העליונה לנהל מסע תעמולה בארץ ובעולם המוסלמי, שהזהיר מפני סכנת השתלטות יהודית על קודשי האסלאם. הוועד עשה שימוש בציור יהודי שבו נראה מסגד כיפת הסלע כשעליו מגן דוד, כהוכחה לכך. תעמולה זו הגיעה לשיאה בסוף יוני אותה שנה, עם יציאתה של משלחת פלסטינית למסע איסוף כספים בחג'אז בעונת החג'.
הידיעות על הניצחונות הטורקיים על היוונים באנטוליה בספטמבר 1922 עוררו התלהבות רבה בקרב הפלסטינים. ניצחון המוסלמים הטורקים עורר תקוה שתהיה לו השפעה על שאלת ארץ ישראל, ובנובמבר שיגר הוועד הפועל משלחת לאסטנבול ולוועידת השלום בלוזאן, כדי להשיג את תמיכת הטורקים בתביעות הפלסטיניות. אולם לאכזבת הפלסטינים, החליטו הטורקים בוועידה להשלים עם הסטטוס קוו בארצות שנכבשו מהאימפריה העות'מאנית. המשלחת הגיעה בדצמבר ללונדון ובינואר 1923 נפגשה עם מזכיר המושבות החדש, אך זה החליט להמשיך במדיניות קודמו.
בנובמבר 1923 הוקמה "המפלגה הלאומית הערבית הפלסטינית", כאופוזיציה לוועד הפועל הערבי ולאגודות הלאומיות הקשורות בו. מתחילת הופעתה, נלחם בה הוועד הפועל באמצעות משלחות ששלח לכל רחבי הארץ שהסבירו את אופייה "הבוגדני". המפלגה נכשלה בניסיונה לכלול בתוכה את כל חוגי המתנגדים לוועד הפועל. בשל מצעה האנטי-ציוני, חידשו הגורמים הציוניים בתחילת 1924 את מאמציהם להקים ארגון ערבי המתנגד לוועד הפועל הערבי וגם תומך או לפחות נמנע מלתקוף את הציונות. על רקע זה, החלו להופיע בתחילת אותה שנה מספר ארגונים שקראו לעצמם "מפלגת החקלאים" (חזב אל-זראע). הוועד הפועל סירב להגיע להסכם עם מתנגדיו, ובמהלך אותה שנה החריפו היחסים בין שני המחנות.
בשנים 1924–1928 עסק משרד הוועד הפועל בניהולו של ג'מאל אל-חוסייני בשיגור תזכירים לממשלה ולחבר הלאומים ושליחת מכתבי מחאה בנושאים שונים. כמעט ולא אורגנו הפגנות נגד הציונות וגם מסורת ימי השבתון ביום הצהרת בלפור פסקה. יוצאת דופן הייתה שביתה כללית בכל ערי הארץ, שארגן הוועד הפועל ב-25 במרץ 1925, יום ביקורו של בלפור בארץ. דעיכת הפעילות הביאה להתרוקנות המשאבים הכספיים עד שבשנת 1926 כבר לא נשאר כסף אפילו להוצאות השוטפות ובמהלך 1927 המשרד נסגר למעשה.
במרוצת העשור הלך מעמדו של הוועד הפועל ונחלש. סירובו של הוועד הפועל להשתתף בממסד החוקתי הביא לכך שהבריטים התמידו בסירובם לראות בגוף זה כמייצג הפלסטינים; בד בבד העמיקו היריבויות בין החמולות; ובמקביל קם לוועד מתחרה בדמות "המועצה המוסלמית העליונה".
החל מראשית השלטון הבריטי ועד מחצית שנות ה-30, טענו הפלסטינים כי ההגירה הציונית גורמת להרעה במצב הכלכלי בארץ ישראל. ב-12 באפריל 1925 הוסבר בתזכיר הוועד הפועל לחבר הלאומים כי "פלסטין היא ארץ חקלאית לגמרי, ואילו היהודים בכל רחבי העולם הם בדרך כלל סוחרים ומלווים בריבית".
מיד לאחר ההתפרצויות בפרעות תרפ"ט באוגוסט 1929, מיהר הוועד הפועל להתנער מאחריות להן, בטענה שהן לא היו רצויות לערבים, ובמקום זאת טען שהייתה זו התנפלות יהודית על ערבים. ההתפרעויות גרמו להסערת הרוחות בציבור הערבי והביאו לתנופה בפעילות הוועד הפועל הערבי, שראה בהן הזדמנות לחידוש המאמץ לשינוי המדיניות הבריטית.
רק כאשר ועדת שו לחקר מאורעות תרפ"ט ביקשה מהוועד הפועל למנות עורכי דין שינהלו מטעם הערבים את חקירת העדים, הכירה בו הממשלה הכרה מלאה. לאחר מכן הממשלה אף ביקשה ממנו שימנה את החברים הערבים לוועדות ציבוריות שהקימה.
דעיכתו של הוועד 1929–1934.
לאורך כל שנות ה-20 נכשל הוועד הפועל הערבי בגיוס כספים, בארץ ישראל ומחוצה לה. כישלון זה היה אחד הגורמים לכך שהוועד לא הצליח להגשים חלק ניכר מתוכניותיו והחלטותיו, והוא שיקף למעשה את ההכרה הלאומית הנמוכה וחוסר גיבושו של הציבור הפלסטיני באותה תקופה.
בספטמבר 1929 חזר הוועד הפועל לקיים את ישיבותיו, כתוצאה של מאורעות תרפ"ט באוגוסט 1929.
באוקטובר 1929 קרא הוועד הפועל לתושבי הארץ הערבים לקבל את פניה של ועדת שו (ועדת החקירה שמינתה הממשלה הבריטית) בהפגנות סוערות.
בשלב זה החלו להתגלע סכסוכים על המנהיגות הלאומית בין מוסא כאזם ובין נשיא המועצה המוסלמית העליונה, קרוב משפחתו חג' אמין אל-חוסייני. ב-5 בינואר 1930 בחר הוועד הפועל משלחת שתצא בחודש מרץ ללונדון כדי לדון עם ממשלת בריטניה על שינוי מדיניותה, אז אירעה התנגשות בין השניים, כאשר הוועד בחר את אמין לנשיא המשלחת. מוסא כאזם התפטר בתגובה מהוועד הפועל, מה שהביא להתכנסות נוספת של הוועד ולהתפטרותו של אמין מנשיאות המשלחת לטובת בחירת מוסא כאזם לתפקיד. רק חזית משותפת עם אנשי האופוזיציה הנשאשיבית הבטיחה בסופו של דבר את בחירתו.
חזית בין נשיא הוועד הפועל מוסא כאזם אל-חוסייני עם הנשאשיבים, שהתבטאה במתינות מדינית ובהתנגדות לסמכויות הבלתי-מוגבלות של המופתי בתחומים מסוימים, הביאה לביקורת חריפה מצד המחנה של אמין אל-חוסייני על הוועד הפועל בשנים 1930 ו-1931. חברי הוועד ומשרדו הואשמו על ידי ביטאונו של המופתי במתינות מוגזמת וכונו בוגדים ומרגלים ו"רוחות-רפאים נרפות", ש"מתנהגים בפחדנות, נשארים מאחור ספונים בביתם ועוסקים בענייניהם האישיים". מוסא-כאזם הבין כי ההתקפות הללו מכוונות כלפיו ואיים בתגובה כי אם הן לא תיפסקנה, הוא יצטרף בגלוי אל האופוזיציה הנשאשיבית.
בתחילת שנות ה-30 תמך מוסא-כאזם בתביעת בנשאשיבים לפיקוח ממשלתי הדוק יותר על כספי האוקאף ובתי הדין השרעיים ושלילת סמכותו המוחלטת של המופתי בתחומים הללו.