בשנת 1925 הוחלף סמואל בלורד הרברט פלומר. פלומר החליט לבצע ארגון מחדש בכוח המשטרה על מנת לחסוך בהוצאות. הוא החליט לפרק את שתי הז'נדרמריות ולהקים במקומן את חיל הסְפָר העבר-ירדני, כוח בפיקוד בריטי שרוב משרתיו ערבים ואשר עסק יותר בשמירה על הגבולות, ופחות בפעילות שיטור. יתר המשרתים בז'נדרמריות הועברו אל משטרת המנדט או השתחררו. פעילות חיל הספר נמשכה עד שנת 1948. כ-200 מאנשי הז'נדרמריה הבריטית המשיכו בשירות ביחידות משטרת המנדט, וחלקם הצטרפו לחיל הספר העבר-ירדני, בהם אישים כגון ריימונד אוסוואלד קפראטה או דאגלס דאף, שמילאו תפקידים מרכזיים במשטרת המנדט. בשנות ה-40 החזיקו אנשי היחידה לשעבר בתפקידי פיקוד גבוהים, ויש המסבירים בכך את נטיית המשטרה לפתור בעיות בדרך של שימוש בכוח, לעיתים מוגזם.
תקופת נציבותו של פלומר הייתה תקופה של שקט, אך היא לא נוצלה להתבססות המשטרה. יש הסבורים שהיה זה כוח אישיותו של פלומר ששמר על השקט באותם ימים. הכוח היה מצומצם, ומנה כ-1,500 איש בכל הארץ. כ-175 מהם היו בריטים, ורוב השאר ערבים. הקידום בסולם הדרגות היה איטי מאוד, ומאברוגורדאטו נקט במדיניות משפילה של העמדת מפקחים בריטים על בכירים מהם שלא היו בריטים, או אף שהיו יהודים ממוצא בריטי. הקצינים היהודים כדוד תדהר היו מעטים ועמדו תחת פיקוח מתמיד מחשש כי הם משתפים פעולה עם "ההגנה" ברכישת נשק או בעלייה בלתי חוקית. תקציבה של המשטרה לא הספיק לעיתים אף לצרכים פשוטים כרכישת נייר ועטים. הכוח עסק בשיטור ובמניעת פשעים פליליים, אך כבר בשלב זה החלה ה-CID להתרכז בחקירות פוליטיות, וכיוונה מאמציה כנגד המפלגה הקומוניסטית של פלשתינה.
בשנת 1926 הוחלפה פקודת המשטרה שנחקקה בשנת 1921. הנוסח החדש, שמקורו בחקיקה בריטית במושבות מערב אפריקה, ארגן את המשטרה כגוף ארצי הנתון לפיקוד מרכזי ואשר תפקידיו מניעת עבירות, בילוש, הבאה למשפט, מעצר עבריינים, שמירת אסירים ושמירה על הסדר והביטחון. על פי הפקודה, המשטרה הייתה אחראית על המִנהל של בתי הסוהר. הפקודה החדשה אפשרה גם העסקת "שוטרים מוספים" (Supernumerary Police) וגפירים – סעיפים שנוצלו עד תום, כעשור לאחר מכן, בתקופת המרד הערבי הגדול להקמת מוסד הנוטרות.
בשנת 1928 הותנתה קבלה למשטרה בידיעת קרוא וכתוב, וכן הועבר למשטרה התפקיד החשוב של הופעה כמאשימה בתיקים פליליים בבית המשפט, עם ביטול תפקיד "התובע הציבורי" העות'מאני.
בין הפרשיות הפליליות החשובות שנחקרו באותה התקופה היה רצח יעקב ישראל דה האן. לדעת ההיסטוריונים, הרצח בוצע על ידי איש "ההגנה" אברהם תהומי בשל פעילותו האנטי-ציונית של דה האן. הרצח נחקר על ידי ה-CID. אחד החשודים היה מפקד משטרת ירושלים שמחוץ לחומות, דוד תדהר, שהיה בסוד האירוע, וביום הרצח אף החליף את שוטריה הערבים של תחנת מחנה יהודה, שבקרבת מקום הרצח, בשוטרים יהודים. תדהר נחקר על ידי מפקד ה-CID מייג'ור ברודארסט, ולאחר שחקירתו לא הראתה על קשר בינו ובין האירוע, הוטלה עליו חקירת הרצח. התיק נסגר מבלי שאיש הועמד לדין בעוון רצח דה האן.
פרעות תרפ"ט והארגון מחדש שלאחריהן.
עם תחילת מאורעות תרפ"ט היה כוח המשטרה ערבי ברובו, ביחס של 1,063 ערבים לעומת 196 יהודים. על כוח זה פיקדו כמאתיים בריטים, ברמות שונות של הכשרה לפעילות משטרתית. יכולתה של המשטרה להתמודד עם מצב של פרעות הייתה לקויה; לא ניתן היה לסמוך על השוטרים הערבים כי יעצרו פורעים ערבים, או אף כי לא יצטרפו אליהם. ה-CID היה מנוּון וחסר תועלת. לרשות הפיקוד הבריטי לא עמד שירות מודיעין יעיל שייתן להם קריאה נכונה של המצב והתראה על העתיד להתרחש.
אירועי טבח חברון שיקפו מציאות זו. מפקד המשטרה, קצין בריטי בשם ריימונד אוסוואלד קפראטה, פיקד על כוח שהיה ברובו ערבי, וכלל קצין יהודי אחד, חנוך ברודז'יצקי. על אף שגילה אומץ לב אישי, ואף נפגע מן ההמון, עמד תפקודו של קפראטה במוקד של ויכוח. הוא לא הצליח לשלוט בשוטריו הערבים, שסירבו לירות אל ההמון המתפרע. לרשותו של קפראטה לא עמד כל מידע מודיעיני.
משטרת ירושלים הייתה חסרת אונים אף היא לעצור את המהומות. עם פרוץ המהומות גויסו בחופזה אל המשטרה פקידי ממשל, ואף קבוצה של תלמידי תאולוגיה מאוניברסיטת אוקספורד שהיו בסיור לימודי בארץ. הבריטים חששו לירות על הערבים, מחשש לנקמת דם. בחיפה לבשו הפרעות אופי של מלחמת אזרחים, שכן ארגון "ההגנה" המקומי היה יעיל יותר. השוטרים הערבים והיהודים סייעו איש לבני עמו, כאשר הפיקוד הבריטי איבד את השליטה בנעשה. בצפת עמדו לרשות מפקד המשטרה פאראדיי, האחראי על מחוז צפת וטבריה, 15 שוטרים ערבים ו-4 בריטים; אלה לא יכלו, ובאופן חלקי גם לא רצו, לעצור את המתפרעים.
אוזלת-ידהּ של המשטרה הביאה לכך שלארץ ישראל הגיעה חטיבת חיל רגלים מקהיר בפיקודו של הגנרל ויליאם דובי. דובי ומאברוגורדאטו ניסו לסייר ביישובים ולבחון את הדרכים לארגן מחדש את השמירה על הסדר הציבורי. הם הביאו להצבת שני גדודי חי"ר באופן קבוע בארץ ישראל, להגברת גיוס השוטרים הבריטים, עד שלסוף השנה עלה מספרם מ-171 ל-365, ולפעולות נוספות, אך בכך לא היה די.
בסוף שנת 1929 ובתחילת שנת 1930 ביקרה בארץ ישראל ועדת חקירה בשם ועדת שוֹ. הוועדה ביקשה לחקור גם את תפקוד המשטרה. בעניינים של ארגון, סדר ואימונים, סברו חברי הוועדה כי אין להם המומחיות הראויה, ולכן קיבלו הצעה מאת הנציב העליון, ג'ון צ'נסלור, כי יובא קצין מקצועי לחוות דעתו בעניינים אלו – מפקד משטרת ציילון, הרברט דאוביגין. זה ביקר בארץ ישראל בתחילת 1930, ונתן את מסקנותיו. בנפרד מכך כתבה הוועדה דו"ח מפורט, ובו המליצה על השארת שני גדודי הרגלים בארץ באופן קבע, הגדלת כוח האדם הבריטי במשטרה, ועל שיפור פעולת המודיעין של ה-CID, שלדברי הוועדה צמצם את פעולותיו לחקירתם של קומוניסטים, והתעלם מצורות התארגנות אחרות.
דו"ח דאוביגין, שהוגש במאי 1930, נשמר בתחילה בסוד, אך פרטיו נודעו עד מהרה, והוא הפך לבסיס שלפיו אורגנה משטרת המנדט בשנים שלאחריו. דאוביגין חזה כי בעשרים השנה שלאחר הדו"ח לא יחול שיפור ביחסים בין העדות בארץ, אך בתקופה זו יש ליצור כוח משטרה אמין ורציני המורכב מתושבי הארץ, יהודים וערבים, שיחליף בהדרגה את היחידות הבריטיות. אך קודם לכל יש להגביר בהרבה את הרכיב הבריטי במשטרה. הוא הציע להגדיל את כוח השוטרים הבריטים ל-650 איש, שייפרסו ב-88 תחנות משטרה (מתוכן 28 חדשות), וייתמכו ביחידות חיל הרגלים וחיל הסְפָר המצויות בארץ. כן הציע להעניק נשק מגן למתיישבים היהודים (רובים מסוג "גרינר", שהם פחות יעילים מרובים רגילים), ולהגדיל את מספר השוטרים היהודים עד שיעמוד על 30%.
בה בעת, כאשר ראה בכל אלו את פתרון בעיות הביטחון, נתן דאוביגין דעתו על בניית כוח משטרה מקצועי – כוח שבו השוטר ישרת רחוק מהמקום בו נולד וגדל, יידע את השפות המשמשות בארץ, ויעבור אימון וחינוך בהשגחה בריטית בבית ספר מקצועי לשיטור. דאוביגין הציע לחסל את המשטרות המקומיות, ובהן משטרת תל אביב, שאכן צורפה למשטרה הכללית ביולי 1932.
דאוביגין ייחס חלק ניכר מכישלונות המשטרה לאישיותו של מאברוגורדאטו. מכיוון שכך, בחר בעצמו והביא לארץ ישראל קצין ממשטרת קניה בשם רוי ספייסר, ששירת בעבר תחת פיקודו בציילון, והמליץ להעמידו בראשות המשטרה.
ווקופ וספייסר, רגיעה והתארגנות.
בשנת 1931 נכנסו לתפקידם הנציב העליון ארתור ווקופ ומפקד המשטרה רוי ספייסר. תקופת חמש השנים מ-1931 עד לפרוץ המרד הערבי הגדול בשנת 1936 הייתה תקופה של התבססות ורגיעה, הן למשטרת המנדט והן ליישוב העברי. ווקופ נחשב לנציב אוהד ליישוב היהודי, ואיפשר את העלייה. העלייה החמישית הביאה לארץ יוזמה כלכלית ותנופת פיתוח, ובמקביל נהנתה הארץ במהלך רוב התקופה מרגיעה ביטחונית. ניסיון בודד להצית מחדש את אש המאורעות – מאורעות אוקטובר 1933 – נתקל בהתנגדות בריטית חריפה ונקטע באִבּוֹ.
במקביל, הובילו את המשטרה שלושה אישים לכינון כוח מקצועי ויעיל על פי תוכניתו של דאוביגין. ספייסר עמד בראש, ומתחתיו פעלו סגנו, אלן סונדרס, וראש ה-CID, הארי רייס. עיקר פעולתו של ספייסר הייתה הבנייה מחדש של ה-CID ככוח חקירות יעיל בעל מגמה פוליטית. הכוח התיימר לעקוב, הן אחר תנועות הארגונים הערביים והן אחר פעולות המחתרות ביישוב, ולהילחם בתופעות של טרור ועלייה בלתי חוקית. מספר עובדיו גדל מאוד והגיע ל-57 בשנת 1934, כאשר קיבל על עצמו הגוף את המלחמה בעלייה הבלתי חוקית. ל-CID היו מספר הצלחות, כגון גילוי רוצחי משפחת יעקובי בנהלל ב-1932, שהיו מאנשיו של עז א-דין אל-קסאם, אך גם כישלונות, שהעיקרי שבהם הוא עצם פרוץ המאורעות ב-1936, שאותו לא הצליח הגוף לחזות או למנוע, ולא הצליח להביא מודיעין יעיל לגביו.
ספייסר ניסה להפיח חיים במשטרה, שהתנוונה מאוד בתקופת מאברוגורדאטו. הוא הקפיד על אימון ומשמעת ועל הכשרה מקצועית ראויה לכל השוטרים, הביא לארץ כלבי גישוש, הקים מערכת קשר אלחוטית חדישה ופעל ללא לאות על מנת להעמיד כוח מקצועי שיוכל להתמודד עם אתגרי השיטור והאכיפה שהעמידה ארץ ישראל באותה תקופה.
ברוח המלצות דאוביגין העמיד ספייסר את מספר השוטרים הבריטים על כ-700, והם היוו כשלושים אחוזים מהכוח. הערבים היוו כחמישים אחוזים נוספים, והיתר, מיעוט שנע בין 12 ל-14 אחוזים, היו יהודים.