חניבעל לא השתלב בחצר המלוכה היוונית בשל מוצאו הזר ומנהגיו השונים. אולוס גליוס מספר ביצירתו "לילות אטיקה" (noctes atticae), שאנטיוכוס סקר בגאווה את חייליו, שהיו מוגנים בשריונות יקרים וחמושים בנשק יקר, כאשר חניבעל צועד לצידו בדומייה. אנטיוכוס שאל אותו ביוהרה האם הוא סבור שכוח זה דיו למלחמה ברומא, חניבעל השיב: כמו כן קיקרו מספר, שפילוסוף אחד ניסה להתגאות בידיעותיו בנוכחות חניבעל. זה האחרון ענה בלעג שכבר שמע טיפשים רבים מדברים, "אולם מעולם לא טיפש כזה". בשל תקריות כגון אלו וקנאה טבעית שרחשו לו, סר חינו של חניבעל גם בעיני שאר המצביאים והמדינאים הסלאוקים, והללו הכפישו את שמו של חניבעל באוזני אנטיוכוס בכל הזדמנות, ורמזו לו שעדיף יהיה אם מלך הלניסטי-יווני יורשו של אלכסנדר הגדול יהיה זה שישחרר את יוון מעול הרומאים ולא פוני אפריקאי. כל זה גרם להתקררות היחסים בין חניבעל לאנטיוכוס.
אנטיוכוס הגאה לא הסכים עם שיטותיו של חניבעל והפסיק להתייעץ עמו בכל הנוגע למלחמה המתוכננת. הוא פלש ליוון נגד עצותיו של חניבעל, ולאחר כמה תקריות הכריזה עליו רומא מלחמה בחורף של שנת 192 לפנה"ס. אנטיוכוס מצא עצמו לא מוכן מספיק, וארגן בחופזה אספה של קציניו בדמטריאס (Demetrias) שביוון. חניבעל הוזמן לאספה זו, ובשל ניסיונו הרב נתן לו אנטיוכוס את רשות הדיבור. חניבעל הסביר שהמלחמה נגד הרומאים אין לראותה במתכונת של מסע עונתי, אלא מלחמה כוללת. העובדה הראשונית היא שהמלך בחר באדמת יוון כבשדה מערכה, וזו צריכה אפוא לשמש לה בסיס ומוצא. לפיכך טוב יעשה המלך אם ימנע חדירה רומאית אל תוך הארץ, לשם זאת יש להקים בסיס ימי בקרקירה, וכך לחסום העברת כוחות רומאיים ליוון דרך הים. את המחצית השנייה של הצי יש לשלוח אל מול חופי מערב איטליה, וכך לפגוע בשיירות תבואה מאפריקה וסרדיניה אל רומא. על הכוח היבשתי להגן על מעברי ההרים במערב יוון. כמו כן, יש לרכוש את נאמנותו של פיליפוס מלך מוקדון – אם ברית זו תיחתם, טען חניבעל, הרי שמרבית השבטים התסאלים והערים באזור יצטרפו גם הם לברית האנטי-רומאית.
כדי ליישם הצעות אלו היה על אנטיוכוס להעביר את הצבא והצי מאסיה לאירופה. הוא שלח את האדמירל המוכשר פוליקסינידאס למלא משימה זאת, אולם פרט לכך דבר מכל עצותיו של חניבעל לא נעשה. אנטיוכוס פעל יותר על פי עצותיהם של בני בריתו האיטולים, שכל מחשבתם הייתה נתונה לסיפוח טריטוריות חדשות לארצם. הניסיון לכרות ברית עם פיליפוס נכשל, וזה האחרון מיהר להצטרף לרומאים. אנטיוכוס הותקף עוד בטרם הספיק הכוח של פוליקסינידאס להגיע מאסיה, ובאביב של שנת 191 לפנה"ס הובס אנטיוכוס בקרב שנערך בתרמופילאי . התבוסה הייתה מוחצת ואנטיוכוס נמלט בחרפה לאפסוס.
אנטיוכוס העריך כעת את חניבעל יותר מאי פעם, והבין כמה צדק באזהרותיו. חניבעל הסביר לאנטיוכוס שכעת הסיכוי היחיד להביס את הרומאים הוא בקרב ימי. מרבית הצי היה מופקד בידיו של פולקיסינידאס, שעשה מאמצים נואשים ליירט את הצי הרומאי שחבר אל ציי פרגמון ורודוס. פוליקסינידאס הובס לקראת סוף השנה בקרב קוריקוס בידי האדמירל הרומאי גאיוס ליוויוס סלינטור, והצי הרומאי-פרגמוני-רודי כבר התקרב אל אסיה הקטנה. חניבעל גייס במהירות צי קטן של ספינות מלחמה מרחבי האימפריה, במיוחד מפיניקיה, וניסה לעצור שייטת קטנה של ספינות מרודוס. לא ידוע הרבה על הקרב עצמו, רק ידוע שהוא התרחש בנהר אורימדון , ושחניבעל שלא היה מנוסה בקרבות ימיים הובס בו ונמלט חזרה לאפסוס. הרומאים הנחיתו כוח תחת פיקודו של סקיפיו אפריקנוס ואחיו סקיפיו אסייתיקוס באסיה. אנטיוכוס עשה ניסיון נואש אחרון לעצור אותם, אולם הובס בקרב מגנסיה, ונאלץ לחתום על הסכם אפאמיאה. כחלק מהתנאים התחייב אנטיוכוס להסגיר את חניבעל, אולם זה האחרון כבר לא היה באפסוס.
שנים אחרונות בביתיניה והמוות.
לא ברור לאן נמלט חניבעל מסוריה. סטראבון ופלוטרכוס טוענים שנמלט לארמניה (שבעקבות המלחמה ברומא השתחררה מהשלטון הסלאוקי) ושם סייע לארטקסיאס הראשון, מלך ארמניה. על פי המסופר הוא סייע לו לבנות עיר שסטראבון מכנה "ארטקססטה" על שם המלך, ופלוטרכוס מכנה "קרתגו שבארמניה". לא ברור במה סייע חניבעל בבניית העיר, וסטראבון רק כותב שהעיר: "נבנתה בידי חניבעל", ופלוטרכוס מכנה אותה: "מעשה ידיו של חניבעל הגדול שבאויבי רומא". קורנליוס נפוס לעומת זאת מוסר סיפור מוזר אודות הרפתקה של חניבעל בכרתים. לפי נפוס אנשי האי ניסו לגנוב מחניבעל את כספו, והלה העמיד פנים שהכסף נמצא בתוך כדים בעוד שלמעשה החביא אותו בתוך פסלונים.
עם זאת הכל תמימי דעים שחניבעל המשיך אחר כך לביתיניה. ביתיניה לא אוימה לרוב בידי אויבים זרים, ולכן נהנתה משגשוג כלכלי. אולם על אף קרבתה ליוון ולממלכות הלניסטיות, תרבותה נותרה ברברית ברובה. מלך ביתיניה פרוסיאס הראשון הקפיד להישאר נייטרלי במלחמה המוקדונית ובמלחמת אנטיוכוס וכך יכול היה להגדיל את כוחו באין מפריע. הוא חשש מעוצמתה העולה של פרגמון, שמלכה אאומנס השני סייע רבות לרומאים במלחמות נגד מוקדון וסוריה, ובתמורה קיבל שטחים רבים. פרוסיאס החליט לצאת למלחמה על פרגמון, וביקש את עזרתו של חניבעל. גם כאן הופקד חניבעל על הצי ופרוסיאס על צבא היבשה שפלש לפרגמון.
חניבעל יצא בראש הצי ופגש בצי פרגמון שעליו פיקד אאומנס עצמו. על פי קורנליוס נפוס, חניבעל הסתיר נחשים ארסיים בתוך כדי חרס, והורה לחייליו להשליך אותם על האויב. תוך זמן קצר התמלאו ספינות פרגמון נחשים והבלבול ששרר הקל על חניבעל לנצח. אולם למרות הניצחון הימי המלחמה התעכבה יותר מדי, ופרגמון התלוננה ברומא על תוקפנותו של פרוסיאס. בשנת 183 לפנה"ס יצא הקונסול פלמיננוס בראש משלחת אל ביתיניה ונפגש עם פרוסיאס. במהלך הדיונים הזכיר אחד הביתינים את שמו של חניבעל. פלמינינוס דרש לדעת אם הדבר נכון. פרוסיאס ניסה להכחיש אולם לבסוף הודה שאכן חניבעל מסתתר אצלו. הוא סירב בתחילה לבגוד באורחו ולהסגיר אותו, אולם משלחצו עליו הרומאים נכנע והסכים, ושלח את אנשיו לכתר את ביתו של חניבעל.
כאשר ראה חניבעל שביתו מכותר הוא העדיף להתאבד בבליעת רעל. האגדה מספרת כי משפטו האחרון היה: "הבה נשחרר את הרומאים מעול ציפייתם הממושכת למותו של איש זקן", ולאחריו שתה את הרעל שבטבעתו, כשהבעת צחוק על פניו. על פי גרסאות אחרות הוא התאבד בתלייה או שתה דם של שור, שנחשב בעת העתיקה לרעיל. הוא מת בגיל 64. אותה שנה מת גם יריבו הגדול פובליוס קורנליוס סקיפיו אפריקנוס.
הקבר.
חניבעל נקבר בביתיניה. חוקר הטבע הרומאי פליניוס הזקן מציין ביצירתו "תולדות הטבע", שבתקופתו (המאה ה-1 לספירה), עוד ניתן היה לראות את קברו של חניבעל באזור העיר ליביסס בביתיניה. המשורר הביזנטי בן המאה ה-12 יואנס צצס מציין, שהקיסר הרומאי ספטימיוס סוורוס בן המאה ה-2 ציפה את ארונו של חניבעל בשיש. סיפור זה אפשרי, שכן הקיסר היה בן אפריקה ופיניקי במוצאו, וביקר באזור בשנת 200 כאשר צר על ביזנטיון.
אישיותו.
כמצביא.
אחד הדברים המבליטים את כישרונותיו הגדולים של חניבעל כמצביא, היא העובדה שהוא פיקד על צבא מגוון רב עממים, שחייליו לא חלקו שום קשר תרבותי היסטורי או דתי, אולם למרות זאת חניבעל הצליח לגרום להם להילחם כגוף אחד, וידע לנצל את יתרונותיהם וכישרונותיהם של כל סוגי החיילים. לא ידוע על שום מרידה בצבאו, פרט לעריקות מדי פעם בפעם. חניבעל ידע לעודד את חייליו ולהלהיבם, ולפני הקרב היה מסתובב ביניהם ברוח עליזה כאילו הקרב אינו מדאיג אותו. על פי המסופר, לפני קרב קאנאי קצין בשם גיסקו שבחן את הצבא הרומאי העיר במרמור שהקרב נראה אבוד מראש. חניבעל חייך ואמר לו: "דבר מפליא יותר, גיסקו, נעלם ממך, שבכל ההמון הגדול הזה אין אף אחד ששמו גיסקו." מסצנות דומות ניתן ללמוד על שיחות מוטיבציה ומעשים סמליים שהיה עושה כדי להרגיע ולהלהיב את חייליו לפני הקרב.
חניבעל עשה שימוש יעיל במודיעין. הוא נהג לשלוח מרגלים כדי לאתר את מספרי האויב וכוונותיו, ניצל בוגדים כדי להשתלט על ערים, והיה מתחקר בעצמו שבויי מלחמה כדי ללמוד על אופי המצביאים הרומאים. כך לדוגמה למד חניבעל על להיטותו של המצביא הרומאי סמפרוניוס לונגוס, ובכוונה תחילה ארגן תבוסה קלה של פרשיו כדי להלהיב אותו עוד. לאחר מכן התגרה בצבאו וידע שסמפרוניוס לא יעמוד בפיתוי, מה שהוביל לניצחונו בקרב טרביה. חניבעל ניצל את מירמורם של תושבי הערים היווניות והשתמש בהם כדי להשתלט עליהן ולהפוך אותן לבסיסים שלו.
אחד המאפיינים הבולטים באסטרטגיה של חניבעל הוא רמאות ותככים. לדוגמה, לאחר שהשיג את טבעתו של מרקלוס בשנת 208 לפנה"ס, הוא חתם בה על מכתב המצווה להחליף את חיל המצב בעיר סלאפיה בחיילים משלו, שחופשו כחיילים רומאים. המזימה סוכלה משום שהקונסול השני התריע מבעוד מועד שמרקלוס כבר מת. עורמתו קיבלה ביטוי טקטי ברבים מן הקרבות והמארבים שערך, כשהשכיל להוביל את אויביו לעימות בתנאים הנוחים לו, ואף לנצל את כוחם של הלגיונות הרומיים כנגדם.
חניבעל ידע לפעול ביצירתיות ובאופן בלתי צפוי. כך למשל בקרב אגר פלרנוס הוא שיגר עדר שוורים על הרומאים והסיח את דעתם מהתקדמות צבאו. כאשר שירת בצבא ביתיניה הוא השליך נחשים ארסיים על חיילי פרגמון. עצם העובדה שחניבעל שרד 16 שנה בארץ אויב, כשהוא כמעט לא מקבל עזרה ממולדתו, מעידה על גודלו כמצביא ושמה אותו בשורה אחת עם אלכסנדר הגדול, יוליוס קיסר ונפוליאון בונפרטה.