בשנת 167 לפנה"ס, על רקע התרחשויות אלו, פרסם אנטיוכוס הרביעי שורה ארוכה של גזירות נגד עם ישראל ודתו (איסור לימוד תורה, איסור לעשות ברית מילה, איסור שמירת שבת), והטיל מיסים כבדים בארץ ישראל ובשאר האימפריה, כדי לעמוד בחובותיו הכבדים לרומא. כתוצאה מגורמים אלו ואחרים, החל מרד לאומי בהנהגת החשמונאים, ונפתחה מלחמה מתמשכת בין המיליציות המקומיות לבין כוחות סלאוקים, כאשר השלטון על ירושלים וסביבתה מתחלף בין החשמונאים לסלאוקים. בהדרגה - על רקע התפוררות האימפריה הסלאוקית, התמודדותה עם עלייתה של האימפריה הפרתית שכבשה שטחים במזרח הממלכה, ועם בחישתה של האימפריה הרומית בענייניה - החלה עקשנותם של הלוחמים המכבים להשתלם והסלאוקים החלו לתת להם אוטונומיה הולכת וגדלה, ולשתף פעולה עם המכבים. בסביבות 140–130 לפנה"ס כבר שלטו החשמונאים באופן קבוע על שטח בסביבות ירושלים, ייסדו את ממלכת החשמונאים, ובהמשך הרחיבו את השטח בהדרגה.
בסביבות שנת 150 לפנה"ס, בזמן כלשהו הקרוב למרד החשמונאים, החלו לצוץ בקרב יהודי ארץ ישראל מחלוקות דתיות, אשר פיצלו את העם לזרמים דתיים שונים אשר ביניהן התקיימו מאבקי כוח אלימים, כאשר הבולטים שבהן היו הפרושים, האיסיים והצדוקים. ההיסטוריון היהודי יוסף בן מתתיהו ("יוספוס פלביוס") מתעד בכתביו את הזרמים הללו.
מערכת המשפט באותה העת נוהלה על ידי הסנהדרין ומנהיגה של הסנהדרין היה נשיא הסנהדרין. הסמכות הדתית של נשיא הסנהדרין החליפה בהדרגה את זו של הכהן הגדול (אשר בתקופת הממלכה החשמונאית היה למעשה גם נשיא האומה העצמאית ומאוחר יותר מלכה).
בשנת 125 לפנה"ס המלך החשמונאי יוחנן הורקנוס הראשון כבש את אדום והמיר בכפייה את דתם של התושבים ליהדות כדי להוסיף כוח ועוצמה לממלכה החשמונאית.
חוקרים שונים מצביעים בתקופה זו גם על שינוי בתפיסה של היהודים לארץ ישראל שמשתקף בין היתר בספר היובלים שכתיבתו משויכת לאמצע המאה ה-2 לפנה"ס. ספר בראשית מתאר שבתחילה ניתנה הארץ לכנען בן חם, ואילו תיאור זה מתפתח בספר היובלים, בו מתוארת הארץ כ"נחלת בני שם" והתיאור הכרונלוגי משתנה כך שכנען קיבל את הארץ רק לאחר שגזל את הנחלות באופן בלתי מוצדק משם.
תקופת השלטון של ממלכת החשמונאים הסתיימה בשנת 64 לפנה"ס כאשר המנהיג הרומאי פומפיוס הגדול כבש את ממלכת החשמונאים (למידע נוסף ראו חשמונאים#מלכי חשמונאי האחרונים).
התקופה הרומית (64 לפנה"ס - 324 לספירה).
בשנת 64 לפנה"ס כבש את ארץ ישראל פומפיוס, המצביא מטעם האימפריה הרומית המתפשטת, כמעט ללא התנגדות. בעקבות כך נהפכה הממלכה היהודית למדינה קליינטית של רומא. אף על פי כן, בעקבות מותם של פומפיי הגדול בשנת 48 לפנה"ס ושל יוליוס קיסר בשנת 44 לפנה"ס, ובעקבות מלחמות האזרחים ברומא, החלה להתפוגג אחיזתה של רומא בממלכת יהודה. כתוצאה מכך האימפריה הפרתית בשיתוף פעולה עם מתתיהו אנטיגונוס השני (בנו הצעיר של אריסטובולוס השני) הצליחו להביס את כוחות היהודים הפרו-רומאיים (הכהן הגדול הורקנוס השני, הנסיך פצאל מבית הורדוס, והורדוס) בשנת 40 לפנה"ס. בעקבות כך אנטיגונוס הפך למלך יהודה.
בינתיים הורדוס ברח לרומא והוכתר שם על ידי הסנאט הרומי בתור "מלך יודיאה" וראש שושלת בית הורדוס. הסנאט הרומי הורה לו לכבוש מחדש את ממלכת יהודה. בעקבות כך הורדוס חזר לאזור ארץ ישראל והמלחמה בינו ובין בעלי בריתו הרומאים לבין אנטיגונוס שבה להתנהל בארץ ישראל. בסופו של דבר, אחרי שורת קרבות ברחבי הארץ הצליח הורדוס לעלות לירושלים ולצור עליה. במהלך תקופה זו הורדוס נשא את מרים החשמונאית לאישה כדי להשיג לתביעתו על העיר לגיטימציה. חמישה חודשים של מצור הטילו עול קשה מנשוא על תושבי ירושלים, ובסופם נכבשה העיר ומאוחר יותר גם הר הבית. בכך הגיע לסיומו שלטון שושלת החשמונאים בממלכת יהודה.
במהלך שנת 20 לפנה"ס, הורדוס החל לשפץ ולהרחיב את המקדש באופן יסודי, והפכו למבנה מפואר. שיפוץ המקדש נמשך גם לאחר מותו של הורדוס, כמעט עד לחורבנו.
בשנת 20 לספירה בנו של הורדוס, הורדוס אנטיפס, הקים את העיר היהודית טבריה על חוף הכנרת אשר נקראה על שם הקיסר הרומאי טיבריוס, שהיה ידידו של אנטיפס.
לאחר מותו של הורדוס החלה תקופת הנציבות, שבה שלטו נציבים רומאים בארץ ישראל, אך לא היה זה מספיק כדי לשלוט ללא עוררין בארץ ישראל ומשום כך במהלך התקופה הראשונה רוב הנציבים העדיפו שלא להתנגש עם היישוב היהודי ולתת לו לנהל את ענייניו (יוצא דופן הוא פונטיוס פילאטוס שהיה אכזרי ביותר). בתקופת הנציבים השנייה היו הנציבים מעורבים הרבה יותר ביישוב היהודי. התסיסה של התקופה הזו בשילוב עם פילוג ביישוב היהודי (הקנאים ובהמשך הפרושים הצדוקים והאיסיים) הובילה לבסוף לכך שבשנת 66 לספירה החל המרד הראשון של היישוב היהודי בארץ ישראל נגד השלטון הרומאי. האירועים מתוארים בפירוט רב בספר מלחמת היהודים מאת ההיסטוריון היהודי יוספוס פלאוויוס, בו פלאוויוס תיאר את המלחמה על היישוב יודפת, המצור על ירושלים (69 - 70 לספירה), הקרב ההירואי בגמלא שבו אלפי יהודים נטבחו, בעוד אחרים בחרו לקפוץ אל מותם מראש הצוק של העיר (בסך הכל נהרגו בקרב זה בסביבות 9,000 יהודים), ואת המצור על מצדה (בשנת 72–73 לספירה) שבסופו, המורדים היהודים העלו באש את כל המבנים ולאחר מכן בסביבות 900 יהודים ביצעו התאבדות המונית שכן שהעדיפו לעשות זאת על נפילה בשבי או תבוסה ודאית. המרד הראשון של היישוב היהודי נגד השלטון הרומאי דוכא לבסוף על ידי הקיסרים הרומאיים אספסיאנוס וטיטוס. הרומאים הרסו את רוב בית המקדש בירושלים ולקחו עימם חזרה לרומא את מנורת בית המקדש ואת אוצרות בית המקדש. יוספוס פלאוויוס ציין בכתביו כי בסביבות 1,100,000 יהודים נספו במהלך המרד, וכי 97,000 יהודים נלקחו בשבי.
על אף שהמרד היהודי דוכא ועל אף שיהודים רבים הוגלו מארץ ישראל לאחר המרד, כמות משמעותית של יהודים המשיכה לחיות בארץ ישראל לאחר המרד, והם הורשו להמשיך לקיים את מצוות דתם. ההערכה היא שבסביבות 2/3 מאוכלוסיית אזור הגליל ושליש מאוכלוסיית אזור החוף באותה העת היו יהודים.
חורבן בית שני מנע מיכולתם של היהודים לקיים את הפולחן שהיה מקובל עד אז, ושמט מתחת לרגליהם כמה מיסודות דתם - מקום הפולחן המרכזי, תפקיד הכוהנים, פולחן המזבח, מצוות רבות מתרי"ג המצוות שעוסקות בפולחן שלא ניתן כעת לקיים ועוד - כולם לא יכלו להמשיך כמו שהיו. המצב גרם להתפתחותה של היהדות, ולעלייתם של הפרושים, שגיבשו את יסודותיה של היהדות הרבנית העולה, שהציעה פרקטיקות חלופיות, למשל, רבנים תפסו בהדרגה את מקומם של הכוהנים כהנהגה הרוחנית, נוסדו מוסדות ישיבה, והתחזק מעמדה של התורה שבעל פה שהפכה לאחד מהיסודות המרכזיים בהגות היהודית החל מתקופה זו.
הסברה המקובלת במחקר כיום היא כי בסביבות שנת 70 לספירה הושלמה הקאנוניזציה של התנ"ך וכי ייתכן שחורבן בית המקדש השני היווה אחד הזרזים לקאנוניזציה.
בשנת 132 לספירה החל מרד בר כוכבא. בראש המרד עמד שמעון בר כוכבא, אשר זכה לתמיכת חכמי דורו ובראשם רבי עקיבא. בתחילתו של המרד, נחל בר כוכבא, באמצעות צבאו שמנה כמה אלפי חיילים, הצלחות מסוימות, הצליח להגן על העיר ביתר ולקיים בה יישוב יהודי גדול ועצמאי, כשהוא מכתיר את עצמו כ"נשיא ישראל" ופועל כמלך לכל דבר. לבסוף הצליח הקיסר הרומאי אדריאנוס לדכא את המרד ביד קשה. היישוב היהודי בארץ ישראל כמעט והוכחד במהלך מרד בר כוכבא כאשר על פי ההיסטוריון הרומי דיו קסיוס, בסביבות 580,000 יהודים נהרגו במרד זה, ובנוסף לכך הרומאים החריבו בסביבות 50 ערים מבוצרות ו-985 כפרים. תקופת שלוש השנים שבהן שלט בר כוכבא בממלכת יהודה, הייתה תקופת העצמאות האחרונה של עם ישראל בארצו, עד הקמתה של מדינת ישראל.
לאחר שדיכא את המרד, החליט אדריאנוס, לאסור על קיום מצוות בסיס של העם היהודי (אסר על המילה ועל שמירת השבת, וכן על התפילה, ושמירת המצוות). את ירושלים החריב כליל והקים עליה בשנת 131 לספירה את העיר "איליה קפיטולינה" ובמקום בו עמד בית המקדש היהודי אדריאנוס בנה מקדש ליופיטר. כמו כן, השלטון הרומי אסר על יהודים להיכנס לירושלים וביטל את הפרובינקיה "יהודה" (Judaea) והקים במקומה את הפרובינקיה "סוריה פלשתינה" (Syria Palestinae). שינוי שמה של הארץ כפי שמו של העם הפלשתי שנכחד זה מכבר, נעשה במטרה לנתק את הקשר בין עם ישראל לארץ ישראל. בתקופה זו נרצחו גם עשרת הרוגי מלכות באכזריות ובייסורים, על שניסו לשמור על גחלת העם היהודי, ולשמור על התורה ועל המצוות בזמנים קשים אלו.
כמו כן, במהלך תקופת שלטונו של אדריאנוס התפלגו סופית הנוצרים מן העם היהודי. זה היה תהליך איטי שהיה כרוך בהתפשרות על קיום מצוות מצד היהודים הנוצרים לטובת קליטה קלה של גויים אל תוך הקהילה. בסיכומו של תהליך נוצרה דת חדשה, היא הנצרות. במהלך תקופת שלטונו של אדריאנוס שני מנהיגי הנוצרים, קודרטוס ואריסטידס, פנו אל הקיסר והודיעו לו באיגרת כי אין כל קשר בין הנצרות ובין היהודים.