בבא רבה היה מנהיג בולט של עדת השומרונים במאה ה-4. הוא פעל כנגד הלחץ הרומאי על העדה השומרונית והאיסור על המילה שהוטל על השומרונים. כצעד ראשון הוא פתח בתי כנסת שהיו נעולים, בנה שמונה בתי כנסת חדשים ברחבי השומרון ויזם בניית מקוואות טהרה. בנוסף, הוא ארגן גם את כל העם השומרוני בארץ ישראל. הוא חילק את הארץ לאחד-עשר מחוזות שהשליטה בהם הוענקה למשפחות מכובדות. כן מינה מועצה לביצוע פעולות חינוך ולניהול בתי הכנסת, ושבעה שופטים בכפרי השומרון. הוא חי ב"תקופה השמינית" לכרונולוגיה השומרונית. בהמשך, בבא רבה הוזמן לקונסטנטינופול, שם נאסר, מת ונקבר.
במאות הרביעית והחמישית התקוממו השומרונים בסדרה של מרידות כנגד השלטונות הביזנטיים. בשנת 484 השומרונים ביקש לנצל את המרד של אילוס שבסיסו היה באנטיוכיה כדי לערער את השלטון הביזנטי בארץ ישראל, אך המושל של ארץ ישראל הצליח לדכא את המרד והוציא את מנהיגו להורג. בראשית שלטונו של הקיסר יוסטיניאנוס הראשון בשנת 529, פרץ מרד שומרוני גדול כנגד הביזנטים. הרקע למרידה הגדולה הזאת היה המתח בין הנוצרים לשומרונים בארץ ישראל וגזירות הדת הקשות שנכפו על האוכלוסייה השומרונית על ידי השלטון הביזנטי. בראש המרד עמד שומרוני בשם יוליאנוס בן צבר (הידוע גם כיוליאנוס סברוס). מרידות אלה גרמו לתגובות קשות של השלטון הביזנטי, והדת השומרונית אף הוצאה מחוץ לחוק. אוכלוסייתם התדלדלה עד מאוד, וההערכה היא כי נהרגו למעלה ממיליון שומרונים במרידות האלה.
במאה ה-7 החלו הפרסים לחדור לתחומי האימפריה הביזנטית, ובניסיונם לכבוש את ארץ ישראל הם זכו לאהדת היהודים, שרצו לפרוק מעליהם את עול האימפריה הביזנטית הנוצרית. בשנת 614 כבש המלך הפרסי ח'וסרו (כורש) השני את סוריה ואת ארץ ישראל, בסיוע מרידות פנימיות של היהודים. הפרסים המשיכו בהתקדמותם לעבר קושטא, אך בשנת 622 הצליח הרקליוס קיסר ביזנטיון לנחות במפרץ אלכסנדרטה וב-627 הביס את הפרסים בקרב המכריע ליד נינוה. השלטון הביזנטי חזר לארץ, ותחת חסותו הנוצרים ערכו טבח ביהודים, בתגובה לתמיכתם בפרסים, מה שגרם לדלדול משמעותי באוכלוסייה היהודית באותה תקופה. מאז ועד תחילת המאה ה-20 היישוב היהודי לא היווה גורם מדיני מרכזי בארץ ישראל.
תום העידן הביזנטי בארץ ישראל החל להסתמן בשנת 638, אז כבשו הצבאות הערביים את ירושלים. כעבור שנתיים (640) נכבשה גם קיסריה, ובכך הקיץ הקץ על השלטון הביזנטי בארץ.
ימי הביניים.
התקופה הערבית הקדומה (638 - 1099).
לאחר מספר פשיטות מצד הערבים לתוך ארץ ישראל, החלו במספר קרבות עד לניצחון נגד הביזנטים בשנת 634 ב-1 ביולי, באזור הנמצא בין רמלה לבית-גוברין, בקרב זה המוסלמים נחלו ניצחון נגד הביזנטים. לאחר ניצחון זה נכבשו ערי הארץ על ידי הערבים בזו אחר זו: לוד, שכם, עזה, שומרון, ובהמשך, ירושלים וקיסריה - וכך נכבשה כל הארץ עד שנת 641, עם כיבוש אשקלון.
בתקופה הערבית הקדומה, שלטו בארץ מספר שושלות מוסלמיות בזו אחר זו: בית אומיה, בית עבאס, הפאטמים והסלג'וקים. תושבי הארץ היהודים והנוצרים נעשו לנתינים מדרגה שנייה, כמקובל בארצות שהיו תחת חסות הדת המוסלמית. רוב תושבי הארץ באותה העת היו נוצרים. הכובשים הערבים לא שינו את המערכת המינהלית של ארץ ישראל: ארץ ישראל הדרומית (שנקראה על ידי הביזנטים "פלשתינה פרימה") הייתה ל"ג'ונד פלסטין" (כלומר: המחוז הצבאי של "פלסטין") ובירתה נקבעה ללוד, וארץ ישראל הצפונית (שנקראה על ידי הביזנטים "פלשתינה סקונדה") הייתה למחוז הצבאי של הירדן ("ג'ונד אורדון") ובירתה נקבעה בטבריה. בעקבות הכיבוש באה נדידה מסיבית של שבטים ערביים לאזור. תקופה זו סימנה ירידה משמעותית במעמדה הכלכלי והפוליטי של ארץ ישראל. בשל שינוי משמעותי בדרכי הסחר הבינלאומי, נפגע במיוחד מעמד הנגב והאוכלוסייה נדלדלה מאוד. להתדרדרות תרמו גם שתי רעידות אדמה קשות שפגעו בארץ ישראל במאה ה-8 וה-11.
בסוף העשור הראשון של המאה ה-9 שוב החלו מהומות ומרידות פרצו. ראשית, בשנת 807 פרץ מרד בדרום ארץ ישראל, כנראה בגלל נטל המיסים הכבד. במרד התאחדו הנוצרים, יהודים וערבים מוסלמים נגד שלטון בית עבאס, מרד זה דוכא על ידי צבא עבאסי מבגדד ותגבורת שהובאה ממצרים.
בשנת 942 השתלטו על ארץ ישראל נסיכים ממצרים והשליטה עברה לידי הפאטימים. החליף הפאטמי אל-חאכם נודע כרודף הנוצרים והיהודים; הוא אילץ את אלו לסמן את עצמם בלבוש מיוחד, ואסר על השימוש ביין לצורכי דת ופולחן. ב-28 בספטמבר 1009 הוא הרס את כנסיית הקבר בירושלים. על-פי חלק מהחוקרים, רדיפותיו של אל-חאכם הובילו לגל של התאסלמות בקרב תושבי הארץ הנוצרים והיהודים, אך לאחר מכן הוא ביטל את הגזרות והותיר לאלו לשוב לדתם הקודמת. ב-1017 אל חאכם באמר אללא הכריז על עצמו כנביא, והוא נחשב למייסד הדת הדרוזית.
בשנת 1071 כבשו הסלג'וקים, עם ממוצא טורקי, את מרבית חלקי ארץ ישראל, כולל ירושלים. לאחר גלות ארוכה, חזר בתקופה זו המרכז היהודי לירושלים, על חשבון טבריה, שירדה מגדולתה. כמו כן הייתה התיישבות מרכזית של יהודים ברמלה, עיר המחוז, וקהילות קטנות יותר בחברון ובערי החוף צור, עכו, קיסריה, יפו, אשקלון ועזה. רדיפות הדת הופסקו, היה חופש פולחן אמנם נותר החיוב במיסים מיוחדים. גם הפקעת הקרקעות עבור המתיישבים הערבים והפרסים פגעה ביישוב היהודי. התנגשויות אירעו במאה ה-10 וה-11 בירושלים גם בין היהודים הרבניים והקראים.
התקופה הצלבנית (1099 - 1260).
במהלך מסע הצלב הראשון נכבשה ירושלים על ידי הצלבנים ב-1099, והוקמה ממלכת ירושלים. כיבוש הארץ היה אכזרי והצלבנים טבחו בתושבים לא-נוצרים רבים. בטבח בירושלים נרצחו לפי ההערכה כ-40,000 נפש, רבים מהם יהודים שהצטרפו למוסלמים במאמץ להגנת העיר. הצלבנים הביסו את תושבי הארץ ופנו להרחבת הממלכה (כיבוש ערי החוף ממצרים, הכנרת כגבול עם דמשק, הדיפת הערבים אל תוך המדבר וכיבוש עד הירדן). רוב מטרות אלו הושגו כבר בעשור הראשון, אך חלקן ארך מעט יותר (צור נפלה ב-1124 ואשקלון רק ב-1154).
הצלבנים הביאו איתם את השיטה הפיאודלית והארץ נחלקה לנסיכויות, רוזנויות וסניוריות שבראשן עמדו אצילים אירופיים. הכיבוש הביא לזרם של אלפי נוצרים שהגיעו ממערב אירופה וחיפשו להם נחלה בארץ ישראל. שפת הארץ הייתה לצרפתית. שרידי המדינה הצלבנית נראים במבצרים וביצורים רבים ברחבי ארץ ישראל.
בשנת 1154 חדלה דמשק להיות "נייטרלית" והממלכה הסורית התאחדה אל מול הצלבנים. ב-1171 הצטרפה מצרים לממלכה זו עם התנוונות ונפילת השושלת הפאטמית ועליית צלאח א-דין, לאחר מותו של קרובו השליט נור א-דין (1174). צלאח א-דין ניסה לפלוש לדרום הארץ (עד אז נמנע מתוך רצון בחיץ בינו ובין שאר הממלכה), אך נכשל ופנה להשתלט על הממלכה של נור א-דין. ב-1186 משימתו הוכרזה בהצלחה ומיד פנה לכיבוש הארץ. ב-1187 הביס צלאח א-דין את הצלבנים בקרב קרני חיטין (לא רחוק מטבריה), ובאוקטובר נכנעה גם ירושלים והצלבנים נסוגו מהארץ.
הצלבנים חזרו ב-1191 במסע הצלב השלישי בפיקוד ריצ'רד לב הארי, כבשו את עכו והביסו את צלאח א-דין אך לא עמד להם כוחם ולא הצליחו לכבוש את ירושלים. לבסוף הגיעו להסכם לפיו תוקם "ממלכת ירושלים השנייה", אשר תכלול אך ורק את רצועת החוף מיפו לצור, ולצליינים יותר לעלות למקומות הקדושים לנצרות בירושלים. האפיפיור אינוצנטיוס השלישי ניסה לעורר מסע צלב נוסף, אך התנאים שאפשרו זאת בזמנו כבר לא היו קיימים ואירופה לא נענתה לו. ב-1228 הגיע לארץ פרידריך השני בראש מסע הצלב השישי, ובמשא ומתן דיפלומטי עם סולטאן מצרים הצליח להרחיב משמעותית את גבולות הממלכה- בגליל, ברמלה, בבית לחם ובירושלים שחזרה לשלטון נוצרי ל-15 שנים נוספות, אף שהאוכלוסייה המוסלמית נשארה רוב מכריע. ב-1244 עלו על הארץ ועל ירושלים הממלוכים, בתמיכת סולטאן מצרים, ולאחר ניצחונם בקרב הירביה, הרגו את מרבית התושבים הנוצרים של העיר. קרב זה סימל את תחילת הסוף של הממלכה, ועריה אבדו בזו אחר זו בקרבות עם המוסלמים, על אף שיתוף פעולה קצר עם המונגולים.
תבוסת המונגולים בקרב עין ג'אלות ב-1260 הביא להגברת ההתקפות של הממלוכים בראשות הסולטאן ביברס על שרידי הממלכה הצלבנית. ביברס הרס את ערי החוף ומרכז הכובד של הארץ חזר אל פנים הארץ לשנים רבות. כיבוש עכו ב-1291 סימן את סיום העידן הצלבני בארץ ישראל.
התקופה הממלוכית (1260 - 1517).
הממלוכים היו לוחמים-עבדים שחונכו במערכת החינוך הצבאית המצרית של צלאח א-דין. בעת מסע הצלב החמישי בראשות המלך לואי ה-9 אל מצרים, תפשו הממלוכים את השלטון ובשנת 1260 יצאו להילחם בממלכה המונגולית המתרחבת והכוה בקרב עין ג'אלות בעין חרוד. בכך השתלטו הממלוכים למעשה על כל השטח מחלב שבסוריה בצפון ועד מצרים, ובתחום שלטונם נכללה כל ארץ ישראל. הנמל העיקרי של הממלוכים היה נמל עזה, שהייתה בירת ארץ-ישראל במשך רוב התקופה וריכזה סחר בהיקף עצום, חלק ניכר מכלכלת האימפריה הממלוכית נסמכה על המכס שגבתה ממסחר זה.
בהמשך המאה ה-13 הכו השולטאן הממלוכי ביברס וממשיכי דרכו את היישובים הצלבנים שנותרו בארץ, והרסו את ערי החוף ואת נמלי הים של הארץ (יפו, חיפה, קיסריה ועתלית). ארץ ישראל הפכה לתווך המרכזי לתקשורת בין המרכזים הממלוכיים במצרים ובסוריה ודרכה עברה דרך הדואר, דבר שהפך את הרצועה המרכזית של הארץ (תוואי עזה - יבנה - רמלה - ואדי עארה - מגידו - בית שאן) לאסטרטגית, מפותחת, ועשירה. נחלות חקלאיות נמסרו לקצינים ממלוכים פורשים לאורך רצועה זו וכן באזורי גידול הזיתים בשומרון. הארץ נחשבה במהלך רוב תקופה זו למקום שקט, רדום ושלו.