ברומא כתב יוסף את יצירותיו, החל מחיבורו הראשון, "מלחמת היהודים", אותו פרסם בין השנים 75–79 לספירה. את חיבורו השני, "קדמוניות היהודים", הקדיש יוסף לאדם פרטי, אפאפודריטוס, שתמך ביוסף בזמן כתיבתו ויוסף הקדיש לו לאחר מכן גם את "חיי יוסף" ו"נגד אפיון". ייתכן והדבר מצביע על כך שיוסף לא יכול היה יותר להסתמך על תמיכתו של הקיסר והוא חדל להיות פטרונו לאחר כתיבת "מלחמת היהודים". יוספוס מעיד על עצמו כי השקיע מאמץ בקריאת הספרות היוונית, לאחר שהפך בקיא בשפה זו, אולם בדברו אותה נותר לו המבטא של שפת אמו.
במקורות הרבים יחסית שיש בידינו על התקופה בה שהה ברומא, הוא לא נזכר אפילו פעם אחת.
תולדות חייו דומות לאלו של ההיסטוריון היווני פוליביוס (המאה ה-2 לפנה"ס), שהשפעתו ניכרת בחיבורו הראשון של יוספוס: עירו התנגדה לרומאים, הוא עצמו נתפס והובא לרומא כבן ערובה, קשר שם קשרי ידידות עם מדינאים רומיים בכירים, השתכנע שהאימפריה הרומית בלתי מנוצחת, וכתב את תולדותיה, הכוללות גם את האירועים שהתרחשו בימיו ובארצו, במטרה להרתיע את נתיניה מלמרוד בה.
נשותיו וילדיו.
רעייתו הראשונה של יוסף בן מתתיהו נותרה בירושלים בזמן המלחמה. עוד במהלך המרד, לאחר שנישבה ביודפת, נישא יוסף "לפי פקודתו" של טיטוס ל"בתולה" יהודייה, שבויה מקיסריה (וזאת על אף שנישואים בין כוהן לשבויה נאסרו על ידי המשפט העברי ואפילו יוסף בעצמו מזכיר זאת). כאשר יצא לחופשי מן המאסר ונסע עם אספסיאנוס לאלכסנדריה, עזבה אותו אשה זו והוא לקח לו אשה אחרת באלכסנדריה (כאשר אשתו הראשונה כלואה בירושלים), ולהם נולדו שלושה ילדים, אך רק אחד מהם, ושמו הורקנוס (נולד בשנת 73/72), נשאר בחיים. בשנת 74 או 75 התגרש מבת אלכסנדריה ונישא ליהודיה מיוחסת בת כרתים, שילדה שני בנים, יוסטוס (נולד בשנת 76/75) וסימונידס אגריפס (נולד בשנת 78/77).
יוסף בן-מתתיהו נפטר זמן קצר לאחר שנת 100. זמן מותו המדויק אינו ידוע.
שאלת בגידתו של יוספוס.
בשל החלטתו של יוסף בן מתתיהו במערה לצאת לשבי ולא להתאבד, כמו גם בשל העברת נאמנותו למצביאים הרומאים, רבים ראו בו בוגד בעמו. הוויכוח סביב דמותו ממשיך להתקיים עד עצם היום הזה. לשאלת בגידתו של יוספוס קיימות השלכות לא רק בראי התקופה - ימי המרד, אלא היא רבת משמעות גם לגבי המוסר האנושי כיום, אמינות כתביו (בהתחשב בעובדה שכתבי יוספוס הם המקור העיקרי כיום לידע על תקופת הבית השני והמרידות ברומאים), וצדקת המעבר לצד הרומאי בראייה של ימינו.
מרבית החוקרים של המאות הקודמות סברו שמעברו של יוספוס לצד הרומאי אכן היה בגידה. חלק מן החוקרים סוברים שיוספוס עשה יד אחת עם הרומאים עוד בביקורו הראשון ברומא וקיבל על הבגידה תשלום נכבד וכבוד אצל הרומאים. אחרים סוברים שבמהלך המרד השתנתה דעתו והוא חשק בצד הרומאי. אולם עם השנים השתנתה דעת החוקרים ורבים מן החוקרים החלו מצדיקים את מעשיו. חלק מהחוקרים (לדוגמה יעקב נפתלי שמחוני ודוד פלוסר) בוחנים את מעשהו של יוספוס בראי מעשיהם והשקפתם של בני התקופה. הללו בוחנים כיצד התנהגו מנהיגי המרד האחרים כמו יוחנן מגוש חלב או שמעון בר גיורא. האם היו נאמנים לאידאולוגיה שלהם שאמרה שיש למות בכבוד, מוות של גיבורים, או שגם הם השאירו את מלאכת המוות לסרדיוט הרומאי? גם ביחס לרבן יוחנן בן זכאי ומעברו לצד הרומאי קיימת שאלה במה שונה מעשה יוספוס ממעשה ריב"ז? האם רק משום שבתחילה תמך במרד שלאמתו של דבר מרבית העם תמכו בו?
בשאלת השפעת יוספוס על ההיסטוריה יש שרואים (לדוגמה יוסף קלוזנר) ביציאת יוספוס אל הרומאים צעד מוצדק וזאת בשל תרומתו הספרותית הגדולה הן באותה תקופה - בהצגת היהודים באור חיובי (אברהם שליט) ומניעת האנטישמיות, והן בימינו, שספריו של יוספוס מאפשרים לנו לחקור את תקופת הבית השני.
הרב אורי שרקי העלה סברה לגבי היחס הרבני למעשהו של יוספוס כמו גם לטענותיו על ייחוסו שהובא ברמז בתלמוד: . לפי הפשט התלמוד קבע ששושלת בית חשמונאי הוכרתה בימי הורדוס וכל מי שטוען שהוא מיוחס אליה אינו אלא עבד שלהם שמתחזה לאחד מהם. שרקי קובע שמדובר ברמז ליוספוס שטוען שהוא מיוחס לבית חשמונאי, אך האמת היא שהוא עבד (לרומאים).
בזמן היותו מפקד הגליל.
יוסף מספר שהואשם בבגידה עוד בזמן היותו מפקד הגליל. לטענתו, יוחנן מגוש חלב הפיץ את השמועה שהוא מתכוון "למסור את הארץ בידי הרומאים", וזאת מכיוון שרצה להיות מפקד הגליל בעצמו.
הוא מספר שהצעירים שברחו בלילה אל הכפרים באזור טבריה, לאחר שנזף בהם על החרמת הרכוש של אגריפס וברניקי, הודיעו לתושביהם שיוסף הוא בוגד ושבכוונתו "למסור את ארצם בידי הרומאים". הוא טוען כי "השמועה נפוצה בכל הגליל", ושמבין אלפי האנשים החמושים שהגיעו לפנות בוקר למגדל, "להנקם ביוסף", חלקם צעקו "לשרוף את הבוגד באש", כאשר ראש המסיתים היה ראש העיר טבריה, שלקח לידיו ספר תורה והכריז כי מדובר בבגידה בחוקיה. כאשר יצא יוסף אל ההמון, חלק מהמתגודדים "הוסיפו לקלל אותו ודרשו ממנו להוציא אליהם כרגע את כסף הציבור ולהודות על הברית אשר כרת בבגד".
ההיסטוריון מנחם שטיין, שתרגם את "חיי יוסף" לעברית, ראה גם בפעולות אחרות של יוסף בתקופה זו בגידה: אם יוסף אכן התכוון לשמור את התבואה שנאספה בגליל כמס לקיסר בשביל הרומאים, במקום להחרים אותה לטובת המרד; דבריו בסעודה עם ראשי טבריה על כך שהוא נמנע מלהודות בעליונותו של הצבא הרומי בפני המורדים הגליליים, וכן גם עצם העובדה שהוא, כמפקדם, מכנה אותם "שודדים וליסטים". שטיין סבר גם ש"ידידיו" של יוסף בשומרון, מהם ביקש להגן על שליחיו לירושלים, היו בוודאי רומיים או "אוהבי הרומיים", מאחר שיוסף עצמו מציין שהשומרון נשלט אז על ידי הרומאים.
יוסף מספר לאחר מכן בפירוש על אובדן אמונתו בהצלחת המרד. הוא מספר כי עם פלישת אספסיאנוס לגליל, "כל יושבי הגליל נבהלו מפניו" והוא נואש כליל "מתקוות הניצחון במלחמה". הוא טוען "כי כבר צפה את אחרית היהודים הרעה" והבין שהדרך היחידה בה יוכלו להציל עצמם מחורבן היא להפסיק את המרד. הוא מצהיר כי "נקל היה לו למות שבעתיים מבגוד בארץ אבותיו", כמו גם במשרת הפיקוד הצבאי שהופקדה בידיו, ומשום כך החליט "לכתוב אל ראשי הממשלה בירושלים ולהודיעם את הדברים לאשורם", מבלי להפריז במידת כוחם של הרומאים - שלא יצא עליו שם של פחדן, וגם מבלי להקטין את מידת הסכנה - כדי לא לגרום לראשי העם "להתחזק במרדם". אולם אספסיאנוס עלה אז על יודפת ויוסף מיהר אליה כדי לפקד עליה בזמן המצור.
ב"חיי יוסף" מספר יוסף בן מתתיהו כי נבחר על ידי אנשי 'מחנה השלום' בירושלים לתפקיד מפקד הגליל כדי 'להשקיט את הקנאים דורשי המרד'. על פי עדותו הוא ניסה להניא את הקנאים מתוכניתם: "בבארי להם עם מי הם אומרים להילחם וכי נופלים הם מהרומאים לא רק בטכסיסי צבא אלא גם במזל ובהצלחה". עניין זה מקבל חיזוק מכך שבמהלך כל ימי המצור על יודפת ניסה יוסף בן מתתיהו לשכנע את הלוחמים היהודיים להיכנע לרומאים, אך דווקא הם סירבו.
מ'חיי יוסף' עולה כי יוסף בן מתתיהו תמך בעיר ציפורי, שבה ישבו בעיקר מתייוונים אשר יחסם ליהדות היה רופף מאוד והם היו מתומכי הרומאים ומתנגדים גדולים למרד. הם כרתו ברית שלום עם הרומאים ויוסף בן מתתיהו עזר להם לבצר את העיר ולהגן עליה מפני הקנאים.
יציאתו אל הרומאים ביודפת.
בדבריו על יציאתו אל הרומאים ביודפת, יוסף מספר שלצורך שכנועו לצאת מהמערה, נשלח אליו הטריבון הצבאי ניקנור, "אחד ממיודעי יוסף ואנשי שלומו מלפנים", שהדגיש בדבריו אל יוסף את היותם ידידים.
יוסף קלוזנר הביע את התהייה: "מנין לו ליוסף 'ידיד' בחיל הרומי?", וגם השיב עליה: "ניקנור הכיר את היהודים עוד מקודם", כפי שמתברר בהמשך, בזמן המצור על ירושלים, כאשר נקנור התקרב עם יוסף אל החומה "וניסה לדבר שלום אל העומדים עליה למעלה, אשר היה מיודעם מכבר".
ייתכן גם שניקנור שירת בצבאו של אגריפס או פיקד על יחידה של חיל העזר הרומי ביהודה, וכך התחילה ההיכרות בינו לבין יוסף.
יוסף מעניק ליציאתו אל הרומאים הילה מיסטית. הוא מספר כי לשמע קולות נקנור והרומאים מחוץ למערה, "נחה עליו רוח ממרום" והוא נזכר בחזיונות שראה בחלומותיו. הוא גם מספר שנשא תפילה קצרה: "בורא ישראל... בי בחרת לגלות את העתידות, על-כן אני תוקע את כפי לרומאים ברצון למען אחיה, ואתה עדי, כי לא בוגד אני בלכתי אליהם, רק עבדך, עושה רצונך". בראות האנשים שהיו איתו במערה, שהוא עומד לצאת אל הרומאים הקוראים אליו, הקיפו אותו וצעקו עליו: "מה מהרת להתכחש לנפשך! התזכור כמה אנשים פיתית לצאת אלי מוות בעד החרות?... אם תבחר במוות, תמות כראש צבאות היהודים, ואם תמאן, תמות מות בוגדים". יוסף משיב לדבריהם בנאום השולל התאבדות: "אין זה מעשה גבורה, רק מורך-לב מאין כמוהו...כי איש רך-לבב הוא הקברניט, אשר ירא את רוח הסערה והטביע את אניתו בים. הן בשלחנו יד בנפשנו נעבור על חוקי הטבע... הלא אין בקרב היצורים אף אחד מאבד את עצמו לדעת, כי חוק הטבע הנאמן גוזר על כולם לבחור בחיים".
יוסף קלוזנר מצביע על כך שהנאום המופנה כנגדו על ידי האנשים שהיו איתו במערה, הוא כתב-אשמה שיוסף בן מתתיהו חיבר נגד עצמו.