בשיחת ההכנה שערך לפני ההתקפה של אספסיאנוס, כבר לא ראה יוסף סיכוי להמשך העמידה במצור וניסה לעורר מוטיבציה מתוך ייאוש: "היום הזה ילחם כל איש מכם לא למען הצל את עירו, רק למען קחת נקם על חורבנה, על־כן ישים לנגד עיניו את מראה הזקנים והטף הנשחטים בידי האויב ואת פני הנשים העתידות להרג במהרה ויאסוף את כל זעמו על הצרות הבאות וישפוך אותו על ראשי עושי הרעה". מראה הצבא המכתר את העיר הטיל אימה על הנשים והילדים. יוסף חשש שהצעקות והבכי ירפו את לב הלוחמים וציווה לסגור את הנשים בבתיהן ולהשתיקן באיומים. כשהחלה ההסתערות הרומאית, נהגו הלוחמים היהודים לפי ההוראות שקיבלו, אולם לאחר זמן מה נחלשו. החיילים הרומאים הצטופפו עתה תחת מגניהם כגוש אחד במבנה "צב", ויוסף פקד לשפוך עליהם שמן רותח, שהפיץ אותם מעל החומה והפיל אותם מהגשרים.
ביום ה-47 למצור, התרוממה הסוללה הרומאית מעל לחומת העיר. באשמורת הלילה האחרונה, עלו החיילים הרומאים על החומה, שחטו את השומרים הישנים ונכנסו אל העיר. הם כבשו אותה ולאחר מכן הרגו את המסתתרים במחילות ובמערות. אספסיאנוס ציווה להרוס את העיר עד היסוד ולשרוף את מצודותיה. יודפת נפלה בא' בתמוז (20 ביולי 67).
עם נפילת העיר, ירד יוסף אל "בור עמוק המחובר אל מערה רחבת-ידיים", הנסתרת מעיני העומד למעלה, ובה מצא 40 מנכבדי העיר, שהסתתרו במקום עם מלאי מזון המספיק לימים רבים. במשך היום נשאר יוסף במערה, אך בלילה עלה ממנה וחיפש לו דרך מילוט, וכאשר נוכח לראות שהרומאים הציבו משמרות בכל מקום, נאלץ לשוב אל המערה. ביום השלישי להסתתרותם, אשה שנתפסה גילתה לרומאים את המקום ואספסיאנוס שלח למערה שני טריבונים צבאיים כדי לשכנע את יוסף להיכנע. לאחר שנכשלו במשימתם, מאחר שיוסף פחד כי "הרומאים יעשו בו שפטים", שלח אספסיאנוס טריבון שלישי - ניקנור - שהיה ידידו של יוסף. יוסף שמע את קולו של חברו על רקע קולותיהם הזועמים של אנשי הצבא שרצו לשלוח אש במערה אך הדבר נאסר עליהם, והחליט להיכנע. בתגובה לכך, הקיפו אותו האנשים במערה, הטיחו בו שהפך את עורו ואיימו עליו ברצח אם יבחר להסגיר את עצמו. הם טענו שעליהם למות בחרבם ולא להיכנע והציבו לו אולטימטום: עליו למות בכבוד או שימות מידיהם.
יוסף ניסה לשכנע אותם שאל להם לשלוח יד בנפשם, אולם האנשים כעסו עליו מאוד וקיללו אותו על פחדנותו. הם הקיפו אותו בחרבות שלופות ואיימו להכותו. אז פנה אליהם יוסף בהצעה: אם החליטו להתאבד, יטילו פור ביניהם הקובע את סדר הריגתם (שיטה שנודעה לאחר מכן כבעיית יוספוס), כאשר כל פעם מי שעולה בגורל יומת על ידי חברו הבא אחריו. בדרך זו לא יצטרך אף אחד להרוג את עצמו ולא יוכל להתחרט לאחר מות חברו. האנשים הסכימו להצעה ומעשה ההתאבדות יצא לפועל, ובסופו נשאר יוסף אחרון יחד עם אדם נוסף. מכיוון שלא רצה למות "וגם לא לטמא את ידו בדם אחים", שכנע את חברו שלא להתאבד ולמסור את עצמם לרומאים על מנת להציל את חייהם.
בשבי הרומאים.
הנבואה לאספסיאנוס.
יוסף בן מתתיהו הובל על ידי ניקנור אל אספסיאנוס דרך ההמון הרומאי, שנדחק לראות מקרוב את המפקד היהודי. אספסיאנוס ציווה לשים עליו "משמר חזק" והחליט לשלוח אותו אל נירון קיסר. כאשר שמע זאת יוסף, ביקש שיודיעו לאספסיאנוס כי יש לו סוד לספר לו ביחידות. בנוכחות טיטוס ושניים מחבריו של המצביא, ניבא יוסף לאספסיאנוס נבואה, שנזכרה גם אצל ההיסטוריונים הרומאים סויטוניוס ודיו קסיוס:
ה"נבואה" המחמיאה הייתה עלולה להיחשב לבגידה בקיסר השליט באותו הזמן, אך כנראה הצילה את חייו, שכן הרומאים נהגו לצלוב את ראשי המורדים למען יראו וייראו. יוסף בן מתתיהו מספר כי אספסיאנוס לא שחרר אותו ממאסרו, "אך נתן לו בגדי־כבוד והעניק לו דברי־חפץ שונים בעין יפה והאיר לו את פניו מן היום ההוא והלאה". יוסף הוחזק כשבוי מלחמה וטוען כי אספסיאנוס וטיטוס שמו עליו משמר ואילצו אותו "לשבת בקרבם תמיד", כאשר בתחילה היה "אסור באזיקים".
כאשר הגיע אספסיאנוס לקיסריה, דרש ההמון היווני שיוסף יוצא להורג, אולם אספסיאנוס התעלם.
בשנת 69 נעשה אספסיאנוס קיסר רומא ונבואתו של יוסף התגשמה. בעקבות זאת הורה אספסיאנוס לשחרר את יוסף מן המאסר ובפקודתו בותקה השלשלת שלו במכת גרזן. לאחר שחרורו נסע עם אספסיאנוס לאלכסנדריה. משם נשלח עם טיטוס בשנת 70 למצור על ירושלים והיה עד לדיכוי המרד.
עם טיטוס במצור על ירושלים.
במקביל לעבודת המצור (לאחר כיבוש שתי החומות הראשונות), ניסה טיטוס גם לדבר על לבם של הלוחמים היהודים, ולצורך כך גם שלח את יוסף לדבר אליהם "בשפת אבותיהם", בתקוה שאולי יקשיבו לדברי יהודי בן עמם. יוסף סבב את חומת העיר ובחר מקום ממנו יישמע קולו, אך גם כזה שבו לא יוכל לפגוע בו חץ, ופנה בנאום ארוך אל תושבי העיר - שבתוכם היו גם הוריו ואשתו - שיחוסו על נפשותיהם, על עיר אבותיהם ועל מקדשם, ויואילו להיכנע. בנאומו דיבר על כך שהרומאים יצליחו לכבוש את העיר ואין טעם להתנגד כי "כל העולם עובד להם", וכן גם על הרעב בעיר, שהוא כ"אויב מבית". בזמן "דברי התוכחות" שלו, רבים מהעומדים על החומה לעגו לו וקיללו אותו וכמה אף ירו לעברו חצים. כשראה שנכשל בניסיונו לשכנעם, עבר לדבר על כך שכל הניצחונות בהיסטוריה של עם ישראל לא נעשו "בחרב ובזרוע" אלא על ידי אלוהים, שעל פי כל הסימנים נמצא לצד הרומאים, ובין הדוגמאות שהביא הייתה גם זו של צדקיהו, שנלחם במלך בבל "ולא שמע לנבואות ירמיהו...ועיניו ראו בחרבן העיר וההיכל".
יוסף הצליח לעורר את התושבים לברוח אל הרומאים, אולם לא הצליח לשכנע את המורדים, ששמרו על מוצאי העיר והרגו את הבורחים. בין פעולות הענישה שנעשו נגד "אנשי המעלה בקרב העם" שהואשמו בנטייה לטובת הרומאים, הושיבו המורדים את הוריו של יוסף בבית כלא תחת שמירה. באותו הזמן המשיך יוסף להקיף את החומה ולדבר אל תושבי העיר. אבן שנזרקה לעברו פגעה בראשו והוא נפל ואיבד את הכרתו. יהודים מן העיר מיהרו להגיח החוצה כדי לסחוב אותו לתוכה, אולם טיטוס שלח אנשי צבא להגן עליו. אלה הרימו אותו מן הארץ, והמורדים שראו זאת "הריעו תרועת־ששון" כי חשבו שהצליחו להורגו. אולם כעבור תקופה קצרה יוסף התאושש והמשיך לדבר אל העם.
לאחר כיבוש מצודת אנטוניה, בי"ז בתמוז - שבת קרבן התמיד, שוב שלח טיטוס לקרוא ליוסף וציווה עליו לדבר אל יוחנן מגוש חלב ולקרוא לו לצאת עם לוחמיו מבית המקדש ולהילחם מחוצה לעיר, כדי להימנע מחילול המקדש והחרבת ירושלים כולה, ובתמורה לכך יתיר את חידוש עבודת הזבחים. יוסף בחר מקום שממנו ישמעו את קולו גם יתר היהודים המתבצרים וקרא את הדברים בעברית. הוא הוסיף לכך תחינות אל יוחנן, שיציל את ירושלים, אולם אלו נענו על ידו בקללות. יוסף פתח בתגובה בנאום תוכחה ובו הפציר ביוחנן לנהוג כמו יכניה מלך יהודה, שכאשר עלה עליו מלך בבל, מיהר לצאת אליו וללכת עם משפחתו לשבי, ובלבד שהעיר לא תיפול בידי האויב והוא יאלץ לראות את בית המקדש נשרף. יוסף הבטיח ליוחנן, שאם ייכנע יקבל חנינה מהרומאים. את דבריו סיים באומרו כי גורל העיר כפי הנראה כבר נגזר על ידי אלוהים, שהרי נביאי ישראל חזו "כי נפול תיפול העיר הזאת, כאשר יחל איש לשפוך בה את דם אחיו". גם לאחר שרפת המקדש וכיבוש העיר התחתונה, המשיך יוסף לבקש מהמורדים לרחם על העיר - הפעם על העיר העליונה, אליה נסוגו - ולגנות את מעשיהם, אולם דבריו זכו ל"לעג וקלס".
יוסף מספר כי ברשותו של טיטוס זכה לשחרר אסירים יהודים ובהם אחיו יחד עם 50 מחבריו, וכן 190 שבויים שהיו כלואים במקדש, ובהם נשים וילדים, שהיו חבריו או קרוביו. כמו כן, קיבל מטיטוס גם את ספרי הקודש ששרדו את החורבן. לאחר שהסתיים דיכוי המרד ביהודה, קיבל מטיטוס "כברת אדמה במישור" לנחלה, במקום שדותיו שבאזור ירושלים, שעליהם חנה משמר רומאי.
ברומא.
באביב שנת 71, נסע יוסף בן מתתיהו עם טיטוס לרומא, שם נתן לו אספסיאנוס להתגורר בבית שהתגורר בו בעצמו לפני שהפך לקיסר. הוא העניק לו את האזרחות הרומית ובנוסף לכך גם סכום כספי.
על פי הנוהג המשפטי של רומא, זכה יוסף בן מתתיהו לשלושה שמות: הצמד הראשון היה טיטוס פלאביוס (על שם משפחת הקיסר, הפטרון החדש של יוסף) והשם השלישי היה פשוט "יוסף" (או "יוספוס" בתעתיק היווני-רומי).
בשנת 74, יונתן, אחד הסיקריים, נתפס בקירניה לאחר שניסה להמריד את העניים מקרב יהודיה. כאשר הובא לפני הנציב הרומי, קטולוס, העליל יונתן על עשירי היהודים כי הם הורו לו לעשות את המהומה. קטולוס ניפח את העלילה כדי ש"ייראה גם הוא כגיבור מנצח את היהודים במלחמה". הוא החל להוציא להורג יהודים עשירים והחרים את כספם לאוצר הקיסר. לאחר מכן פיתה את יונתן ואסירים אחרים להטיל את האשמה על "טובי היהודים" שישבו באלכסנדריה ורומא, ובהם גם יוסף בן מתתיהו, אותו האשים כי שלח לו נשק וכסף לצורך המרד. הוא הוביל את יונתן ואנשיו אזוקים לרומא, אך אספסיאנוס קבע כי מדובר בשקר וזיכה את "טובי היהודים".
יוסף מספר שזכה לחסדיהם של שלושת הקיסרים הפלביים. אספסיאנוס נתן לו במתנה "כברת ארץ גדולה ביהודה" ודומיטיאנוס, בנו, שירש את טיטוס, שחרר את האחוזה הזו ממסים.