מצב זה השתנה בימי מלכותו של אלכסנדר ינאי, אשר בניגוד לקודמיו בחר שלא לחדש את הברית עם רומא. הרקע למדיניותו היה ככל הנראה התפוררותה של האימפריה הסלאוקית והפחד מפני כוחה המתעצם של רומא במזרח. אלכסנדר ינאי בחר, ככל הנראה, לקשור את עצמו לברית מזרחית אנטי־רומאית עם האימפריה הפרתית, פונטוס וארמניה. ובכך הרחיק את סיכויי צאצאיו להיכנס לתקופה הרומית כבעלי ברית של הרומאים, דבר שהיה יכול לשמר את עוצמת הממלכה החשמונאית כפי שהעביר לשלומציון אלכסנדרה.
יהודה כמדינת חסות רומית (63 לפנה"ס – 6 לספירה).
סופו של בית חשמונאי (63–37 לפנה"ס).
עם כיבוש סוריה על ידי המצביא הרומאי פומפיוס, היה ברור לכל שארץ ישראל תבוא בעקבותיה, תחת עול השעבוד לרומא. אל פומפיוס הגיעו משלחות מטעמם של הורקנוס השני ואריסטובולוס השני שהיו מעורבים במחלוקת על השליטה ביהודה ונציגי העם שמאסו בשלטון האחים. בתחילה פומפיוס לא הגיע לידי החלטה, אולם עם ניסיונו של אריסטובולוס למרוד בו, הוא כבש את ירושלים ולכד את אריסטובולוס ומשפחתו ושלחם לרומא. כמו כן הוא חילל את בית המקדש כשנכנס לקודש הקודשים, אבל מייד לאחר מכן ציווה לטהר אותו ולהמשיך את הפולחן כסדרו. עתה מסר פומפיוס את הממלכה להורקנוס תוך שהוא מוריד אותו לדרגת אתנרכוס ("ראש העם", תואר פחות ממלך), קורע מספר מחוזות משליטתו ומקים מחדש את הערים ההלנסטיות בדקפוליס ובשפלת החוף, שהחשמונאים החריבו.
נוכחותה של רומא עוררה התנגדות עזה ביהודה. בשנת 57 לפנה"ס הניף את נס המרד אלכסנדר השני שהיה בנו של המלך המודח ונכדו של אלכסנדר ינאי, השתלט על ירושלים, לקח לעצמו את משמרת המקדש והחל להקים את חומות ירושלים שהרס פומפיוס. אלכסנדר הקים כוח צבאי גדול שעל פי המקור של יוספוס פלביוס מנה עשרת אלפים רגלים ואלף וחמש מאות פרשים. המרד דוכא בידי מושל סוריה אולוס גביניוס. לאחר ניצחונו גביניוס הגיע למסקנה שכדי להכפיף את יהודה למרותה של רומא הוא יצטרך לנקוט צעדים יותר קיצוניים - על הבסיס הרעיון של הפרד ומשול ועל המודל של הכיבוש הרומאי במוקדון, גביניוס פירק את ממלכת יהודה וחילק אותה לחמישה מחוזות נפרדים: ירושלים, יריחו, ציפורי, חמתן ואדוריים. מטרת גביניוס בחלוקה זאת הייתה לפורר את האחדות הלאומית היהודית שהייתה מקור כוחו של רוח המרד כנגד שלטון רומא. אף צעד זה לא השקיט את המרדנות היהודית ובשנת 56 לפנה"ס ברח המלך לשעבר אריסטובולוס השני ובנו מתתיהו אנטיגונוס השני משביים ברומא ועשו דרכם ליהודה, שם עשו ניסיון כושל למרוד והובסו על ידי גביניוס.
לאחר ניצחונו של יוליוס קיסר בשנת 45 לפנה"ס במלחמת האזרחים הוא איחד מחדש את יהודה תחת שלטונו של הורקנוס ומינה את אנטיפטרוס לאפיטרופוס של יהודה וזה מינה את בניו פצאל והורדוס למושלי ירושלים והגליל. יחסו של יוליוס קיסר ליהודים היה סובלני ומקבל. הוא קבע שהיהודים הם עם (אתנוס), הנשלט בידי אתנרך/כוהן גדול במעמד מוכר של בעל ברית. למושלים מעין אלו התירו הרומאים להחליט בכל אורחות החיים של אזרחיהם. יוליוס קיסר התיר מחדש לבנות את חומות ירושלים והשיב ליהודה חלקים שנקרעו ממנה על ידי פומפיוס, לדוגמה, העיר יפו. כן אסר, לדברי יוסף בן מתתיהו בספרו "קדמוניות היהודים", על גיוסם של היהודים (כולל יהודי התפוצות) לצבא רומי, ועל גביית כספים מהם בשנת השמיטה. אולם מצב זה לא נמשך זמן רב, קיסר נרצח בשנת 44 לפנה"ס ואנטיפטרוס נרצח בשנה שלאחר כך. יהודה נפלה תחת השפעתם של רוצחי קיסר שכמו בכל מקום שלטו שלטון רודני וסחטו כספים רבים מן הערים שהיו תחת מרותם.
ממלכת הורדוס (37–4 לפנה"ס).
מצבה המדיני של יהודה השתנה שוב בעקבות ניצחון הטריומווירט השני בקרב פיליפי, יהודה נפלה תחת מרותו של מרקוס אנטוניוס שאישר את מעמדם של פצאל והורדוס והעלה אותם לדרגת טטרכים. שלטון האחים נמשך עד שנת הפלישה הפרתית בשנת 40 לפנה"ס, הפרתים כבשו את יהודה והמליכו את אנטיגונוס כמלך מטעמם. בינתיים, עשה הורדוס את דרכו לרומא והצליח לשכנע את הטריומווירט להמליכו למלך יהודה. עם כיבושה מחדש של יהודה בידי הצבא הרומאי בשנת 37 לפנה"ס, כוננה רומא את שלטונו של הורדוס על יהודה.
מבחינה מדינית היה הורדוס וסאל נאמן של רומא ובאופן טבעי היה מקורב לשליט המזרח מרקוס אנטוניוס. עם תבוסת אנטוניוס פטרונו בקרב אקטיום, בשנת 31 לפנה"ס, מיהר הורדוס להעביר את תמיכתו לאוקטביוס (ששינה את שמו לאוגוסטוס קיסר), וזה אשרר את מעמדו כמלך יהודה ואף הגדיל את שטח ממלכתו מספר פעמים. הפילוסוף היהודי פילון האלכסנדרוני, בחיבורו "המשלחת לגאיוס", משבח את אוגוסטוס על יחסו ליהודים בכלל וליהודי רומא בפרט ועל סובלנותו כלפי המגבלות שהטילה הדת היהודית עליהם. בנוסף לכך, פילון זוקף לזכותו של אוגוסטוס את יוזמת הנהגת "קורבן הקיסר" - קורבן יומי בבית המקדש בירושלים לשלום הקיסר, שהופסק בשנת 66 ובכך ניתן האות לפרוץ המרד הגדול.
שלטון הורדוס היה בעל אופי רודני, והוא לא נהנה מתמיכת רובו הגדול של העם, הן בשל תמיכתו המדינית ברומא והן בגלל זילזולו בחוקי היהדות. נוסף לכך, פעל הורדוס לחיזוק הגורמים הלא יהודיים בממלכה, אשר היו נאמנים לשלטון הרומאי. לאחר מותו של הורדוס, פרצו מספר מרידות אשר דוכאו בידי נציב סוריה פובליוס קווינקטיליוס וארוס.
הטטררכיה ההרודיאנית (4 לפנה"ס – 6 לספירה).
עם מותו של הורדוס בשנת 4 לפנה"ס, הקיסר אוגוסטוס, בניגוד לבקשת נציגי העם, כיבד את צוואתו של הורדוס, וחילק את ממלכתו בין שלושת בניו ואחותו: ארכלאוס קיבל את חלקה העיקרי של הממלכה שכלל את אדום, שומרון ויהודה, הורדוס אנטיפס קיבל את הגליל והפראיה (עבר הירדן היהודי), פיליפוס קיבל את הבשן ואחותו שלומית קיבלה את יבנה, אשדוד ופצאליס. מעמדם של בני הורדוס היה נחות משל אביהם, שכן אף אחד מהם לא החזיק בתואר מלך והם אף לא נהנו מאותו אמון מצד רומא, לו זכה הורדוס אביהם.
ארכלאוס המשיך את מדיניותו של אביו, אך נתגלה כשליט בעל כישרון נחות משל הורדוס, ואף הצליח לעורר עליו את זעמו של העם, עד אשר בשנת 6 לספירה יצאו (בפעם השנייה) משלחות יהודית ושומרונית לרומא, והעלו קובלנות בפני הקיסר אוגוסטוס על שלטונו של ארכלאוס. עקב כך, החליט הקיסר להדיח את ארכלאוס, ולשלוח אותו לגלות בגאליה, ולספח את יהודה כפרובינקיה רומאית.
יהודה כפרובינקיה (6–66 לספירה).
תקופת הנציבות הראשונה (6–41 לספירה).
ארגונה של יהודה כפרובינקיה הוטל על נציב סוריה קוויריניוס, הוא התחיל לבצע קנסוס (מפקד אוכלוסין) דבר שעורר את זעם האוכלוסייה המקומית מכיוון שצעד זה היה מנוגד לחוקי היהדות וגם מכיוון שהוא נועד לשרת את מטרות המיסוי הרומאי בארץ. רק בהתערבות הכהן הגדול יועזר בן ביתוס המפקד קוים, אולם הייתה קבוצה בראשותו של יהודה בן חזקיה שהתנגדה לקוויריניוס בצורה אלימה.
לאחר סיום המפקד מונה נציב רומאי ביהודה. הנציב היה בעל סמכויות מועטות, לא עמד לרשותו כוח צבאי רומאי (הכוח הצבאי היחיד שהוא פיקד עליו היה חיילות העזר) ובשעת חירום הוא היה כפוף לנציב סוריה הבכיר ממנו. ראשוני הנציבים כיבדו את היהודים ולא ידוע על כל התנגשויות יוצאות דופן שלהם עם האוכלוסייה.
המצב השתנה בזמן נציבותו של פונטיוס פילאטוס, שנהג להתעמת עם האוכלוסייה היהודית ופגע ברגשותיה הדתיים. על פי הברית החדשה, השגיח פילאטוס על משפטו של ישו ונתן את ההוראה לצליבתו, מאורע שמסמן את תחילת הנצרות. כל הדברים הללו התרחשו בתקופת שלטונו של טיבריוס (14–37 לספירה). באותה תקופה, היהודים גורשו מן העיר רומא, כיוון שעסקו בתעמולה דתית וגיור, ובשנת 19 לספירה נענשו המוני יהודים על שלא רצו להילחם בשבת ויום טוב. בהמשך חזר טיבריוס לדרך במדיניות הסובלנות של יוליוס קיסר ואוגוסטוס, וכשנציב יהודה, פונטיוס פילאטוס, הציב מגנים שעליהם כתובות הקדשה לקיסר בארמונו של הורדוס בירושלים, הורה טיבריוס להסיר אותם כדי למנוע פגיעה ברגשות היהודים. הורדוס אנטיפס היה ידידו הקרוב ואף קרא את בירתו החדשה, טבריה, על שמו.
לאחר מותו של הקיסר טיבריוס ועלייתו של נכדו קליגולה לכס השלטון בשנת 37, זכר קליגולה לחברו הטוב אגריפס הראשון, נכדם של הורדוס ושל מרים החשמונאית, את התקרית שבעטיה נכנס לכלא לאחר שהביע את תקוותו שקליגולה יעלה לשלטון, והמליך אותו על ארץ הבשן (שנת 37). כמו כן העניק לו שרשרת של זהב (במקום שרשרת הברזל שהייתה לו בכלאו). לאחר מכן הגלה קליגולה את דודו של אגריפס, הוא הורדוס אנטיפס, שהיה "טטרארך הגליל והגולן", וסיפח חבלי ארץ אלו לממלכתו של אגריפס (שנת 39).
אך בהמשך עלייתו של שליט עריץ זה, עתיד לסמן את תחילתו של אחד מהמשברים החמורים ביותר בתולדות היחסים הרומאים־יהודים. משהקימו התושבים ההלניסטים ביבנה מזבח לפולחן הקיסר, הרסו אותו התושבים היהודים במקום. הדבר דווח לקליגולה, והוא הורה בכעסו על הקמת פסל לכבודו בבית המקדש בירושלים. פקודתו גרמה לזעזוע גדול ביהודה ועוררה התנגדות גדולה, לכן על פובליוס פטרוניוס מושל סוריה הוטלה המשימה להקים את הפסל, לאחר שפטרוניוס התרשם כי היהודים מוכנים למות, ובלבד שבית המקדש לא יחולל בצלמו של קליגולה, שב לאנטיוכיה ונקט בצעדים לעיכוב הקמת הפסל. אגריפס ששהה בחצר הקיסר ברומא לקח חלק במגעים לביטול הפקודה של קליגולה ואף הצליח לשכנעו לבטלה, אולם לפי גרסה אחרת קליגולה חזר בו מהביטול, והפקודה התבטלה עם הירצחו בשנת 41.
מלכות אגריפס הראשון (41–44 לספירה).