ניתן להצביע גם על מגרעותיו של חניבעל כמצביא. כך למשל, יכולותיו בלחימת מצור לא היו גבוהות כיכולותיו בשדה הקרב. חיסרון זה השפיע משמעותית במאבקו עם הרומאים, שהצטיינו בלחימת מצור, על השליטה בערים האיטלקיות. שלוש פעמים נהדף חניבעל מן העיר נולה, את מצודת טארנטום לא הצליח להכניע לאחר שכבש את העיר במזימה, ומסתבר שגם האפשרות לכיבוש רומא עצמה נדחתה מסיבה זו. עם זאת, חסרונו בלחימת מצור לא נבע בהכרח מכישוריו כמצביא, אלא גם מהרכב צבא השכירים שהוביל, שהיה חסר את יכולותיו ההנדסיות והלוגיסטיות של צבא קבע מקצועי.
ישנם חוקרים מודרניים המטילים דופי גם בראייתו האסטרטגית של חניבעל, ושוללים את תדמיתו של חניבעל כגדול המצביאים. אותם חוקרים רואים בפלישתו לאיטליה, כשהוא סובל מנחיתות מספרית, החלטה פזיזה וחסרת אחריות, ובהתקפתו על סגונטום קוצר רואי. כן טוענים שלא עשה מספיק כדי להעביר לצידו את הערים היווניות באיטליה, ושהיה פוליטיקאי גרוע שפעל לעיתים בפזיזות. חוקרים אחרים מגינים על הגיונה וסבירותה של תוכניתו האסטרטגית, ואת עיקר האשמה בכישלונו תולים בגורמים שמחוץ לשליטתו, כמו ההעדפה של הממשל בקרתגו לתגבר את החזיתות בהיספניה ובאיי הים התיכון על פניו, תבוסות עמיתיו ביתר החזיתות (מה שהעלה את הצורך המתמיד בתגבורם), ושליטתו של הצי הרומי בים.
אופיו.
טיטוס ליוויוס מתאר כך את חניבעל:
תיאורים לא מחמיאים דומים מופיעים גם ברוב המקורות העתיקים העוסקים בחניבעל, אולם יש לזכור כי מכיוון שלא שרדו מקורות קרתגיים מאותה תקופה, המקורות היחידים הקיימים הם מקורות יווניים או רומיים, שהיו משוחדים מראש לרעת חניבעל (אם כי יוצא דופן הוא פוליביוס הנחשב למתון יחסית בדעותיו). במבחן המציאות נראה שחניבעל לא היה כה אכזרי וחסר כבוד כפי שמתואר, אדרבה נראה שהוא היה אנושי לא פחות מהרומאים ואולי אף עלה עליהם. אומנם הוא ערך טבח בערים שכבש, לדוגמה סגונטום, אולם מעשים כאלו היו מקובלים מאוד בעולם העתיק והרומאים לא נהגו אחרת כאשר כבשו את קרטחנה, קפואה, טראנטום וסירקוסאי. ידוע על מקרה שבו חניבעל לכאורה חנק את תושבי העיר נוקריה באמבטיות שלהם, אולם חוקרים מודרניים דוחים את הסיפור. חניבעל גם גילה כבוד כלפי גופות יריביו. לאחר קרב טראסימנוס הוא חיפש את גופת הקונסול שנפל בקרב כדי לקוברה בכבוד הראוי. כאשר מרקלוס מת, חניבעל שרף את גופתו בטקס מכובד ושלח את אפרו לרומא. זאת בניגוד לרומאים שהשליכו בביזיון את ראשו הכרות של אחיו עזרובעל לעבר מחנהו. חניבעל אומנם נהג באכזריות כאשר הכריח את שבוייו להילחם זה בזה לפני קרב טיקינוס, אולם יש לזכור שהרומאים נהנו משעשועים כאלו דבר יום ביומו, וחניבעל אף שחרר את הלוחמים המנצחים עם מתנות. ככל הנראה אין אמת בתיאור שלו כאתאיסט וחסר כבוד כלפי האלים, משום שבמקורות הוא מתואר לעיתים קרובות מקריב קרבנות לפני הקרב, ואף דאג שלא יבזזו את מקדשה של יונו ליד קרוטון. פוליביוס מביא סיפור, שבמהלך חציית האלפים כינס חניבעל את קציניו והודיע להם שהוא מודאג ממצב האספקה בצבא. קצין שפוליביוס כינה חניבעל מונומאכוס, קם והכריז שלדעתו יש רק דרך אחת לפתור את הבעיה. חניבעל נתן לו את רשות הדיבור ו"מונומאכוס" הכריז שלדעתו הדרך היחידה לשרוד היא אם חניבעל ילמד את חייליו לאכול בשר אדם. חניבעל הזדעזע מההצעה אך לא השיב. ישנם חוקרים הסבורים שלמעשה חניבעל מונומאכוס אינו דמות היסטורית, והסיפור רק נועד לתעד צד אפל יותר באישיותו של חניבעל.
מורשתו.
המלחמה הפונית השנייה וחניבעל במיוחד המשיכו לרחף על רומא כצל אפל. הפוליטיקאי הרומאי מרקוס פורקיוס קאטו קנסוריוס נהג לסיים כל נאום שלו ללא קשר לתוכנו במילים "Carthaginem esse delendam" ("יש להרוס את קרתגו"). קאטו, שהשתתף כחייל במלחמה הפונית השנייה, סבר שרומא לא תהיה בטוחה כל עוד קרתגו קיימת. קאטו אף נטל תאנה שהובאה בספינה מקרתגו, והצביע על טריותה כדי להבהיר כמה קרובות איטליה וקרתגו. בשנת 149 לפנה"ס אכן הכריזה רומא מלחמה על קרתגו ("המלחמה הפונית השלישית"). המלחמה נמשכה שלוש שנים ובסופה הוחרבה קרתגו כליל ותושביה נטבחו או נמכרו כעבדים.
מורשת צבאית.
האסטרטגיה של חניבעל ובמיוחד ניצחונו האדיר בקרב קאנאי הותירו חותם עמוק על מצביאים רבים לאורך ההיסטוריה. נפוליאון בונפרטה טען ש"חניבעל היה הנועז מכולם" – נפוליאון העריץ את חניבעל ואף חצה את הרי האלפים במעבר בו (לדעת נפוליאון) חצה גם חניבעל. הגנרל האמריקאי ג'ורג' פטון הושפע גם הוא מחניבעל, ואף האמין שהוא למעשה גלגול שלו. אחד המצביאים שהושפעו ביותר מחניבעל היה הרוזן הגרמני אלפרד פון שליפן, שתכנן את "תוכנית שליפן" המפורסמת שלו על פי קרב קאנאי. במאמר שפרסם בשם "מחקרי קאנאי" טען שליפן שלמעשה חניבעל הוכיח שבעזרת איגוף ניתן להכריע כל אויב בעל יתרון מספרי. שליפן טען שכל המצביאים בהיסטוריה הסתמכו גם אם בלא יודעים על האסטרטגיה של חניבעל בקרב קאנאי. שליפן טען כי אף על פי שאלפי שנים עברו מאז קאנאי, "לא השתנו תנאי היסוד למערכה. ניתן לערוך היום את מערכת ההשמדה לפי אותה תוכנית שתכנן חניבעל בימי קדם".
תדמיתו.
כאמור, הרומאים תיארו את חניבעל כפושע מלחמה אכזרי, תיאור שדבק בחניבעל ברוב הספרות הרומאית. הפילוסוף הרומאי המפורסם מרקוס טוליוס קיקרו, משווה ביצירתו "על החובות" את "שני אויביה הגדולים ביותר של רומא", חניבעל מקרתגו, ופירוס מלך אפירוס. לטענת קיקרו, בעוד פירוס גילה כבוד ואצילות, חניבעל התנהג באכזריות ובשפלות. אולם, בהדרגה החל הדימוי השלילי של חניבעל לדעוך. כבר המשורר הרומאי יובנליס בן המאה ה-1 לספירה מתאר את המלחמה הפונית השנייה באורח קליל וסאטירי. בימי הביניים תואר חניבעל מחד כמצביא גדול, ומאידך כרוצח אכזרי. על דימוי זה ניתן ללמוד מספרו של ניקולו מקיאוולי, "הנסיך":
בהדרגה החל הדימוי השלילי של חניבעל להתרכך, וכבר מונטסקייה מציע גישה שונה בחיבורו "הרהורים על הסיבות לעלייתם ונפילתם של הרומאים". אחד הראשונים שדחה בפירוש את הדעות המסורתיות, היה ההיסטוריון הגרמני תאודור מומזן:
חניבעל בתרבות.
דמותו של חניבעל ריתקה מחברים ואמנים רבים לכל אורך ההיסטוריה. כבר בעת העתיקה החל העניין בו, הרומאים הציבו בעירם פסלים בדמותו כדי שיזכרו את האויב הגדול שעליו גברו. המשורר סיליוס איטליקוס חיבר פואמה בשם "פוניקה", העוקבת אחר מהלך חייו של חניבעל. בפוניקה נטען שמסעו של חניבעל היה רצון האלים שרצו לחשל את הרומאים. רחוב על שמו נמצא בעיר לה גולט שבתוניסיה, כמו גם ערוץ טלוויזיה תוניסאי. דמותו הופיעה בעבר על שטר של 5 דינרים תוניסאיים.
חניבעל מיוצג לעיתים קרובות בציורים ובפסלים. ג'ובאני בטיסטה טייפולו צייר אותו מביט בראשו הכרות של אחיו. ניקולא פוסן צייר אותו רוכב על גב פילו סורוס. פרנסיסקו דה גויה צייר אותו חוצה את האלפים ומאחוריו מלאכים ודמויות מהמיתולוגיה. ויליאם טרנר צייר אותו חוצה עם צבאו את האלפים כשברקע סופת שלג מאיימת. בציורו המפורסם של ז'אק-לואי דויד "נפוליאון חוצה את האלפים", נראה נפוליאון חוצה את הרי האלפים ולצידו סלע עליו חרותים שמותיהם של חניבעל וקרל הגדול שחצו גם הם את האלפים. המאייר האיטלקי אנטוניו דה מונזה () צייר את חניבעל לוחץ ידיים עם פרנצ'סקו ספורצה, הציור נועד למעשה להחניף לספורצה ולתאר אותו כשווה ערך לחניבעל. בתקופת נפוליאון היו פופולריים בצרפת שעוני אח עם דמותו של חניבעל. אנטואן בורדל יצר פסל בשם "הניצחון הראשון של חניבעל", המתאר את חניבעל כילד קטן לוכד נשר המסמל את הרומאים. פסלים נוספים של חניבעל מוצגים בין היתר בארמון שנברון בווינה, ובמוזיאון הלובר בפריז.
חניבעל שימש גם כמושא למחזות רומנים וספרים רבים, פייר קורניי כתב את המחזה "ניקומדיה" העוסק בו. אחיו של פייר, תומה קורניי כתב מחזה בשם "מוות לחניבעל". חניבעל נזכר גם במחזהו של פרנצ'סקו פטררקה "אפריקה", וכן דנטה אליגיירי מזכיר אותו ביצירתו "הקומדיה האלוהית", לצד סקיפיו אפריקנוס. באופרה "הטרויאני" של הקטור ברליוז (המבוססת על האינאדה), דידו רואה לפני מותה חזון שחניבעל ינקום את נקמתה ברומאים. שאול טשרניחובסקי כתב סונטה בשם "חניבעל", בה הוא מדגיש את קרבתם של אנשי קרתגו ליהודים. יצחק קצנלסון כתב מחזה בשם "חניבעל".
חניבעל נזכר בספר "מסעות גוליבר" של ג'ונתן סוויפט. הספר "שלמבו" מאת גוסטב פלובר עוסק באחותו הגדולה של חניבעל, וחניבעל עצמו מתואר שם כילד אמיץ ועז פנים. בשנת 1887 כתב ג. א. הנטי רומן ביוגרפי בשם "הקרתגי הצעיר", המספר על חניבעל מנקודת מבטו של בן דודו מלכוס (דמות דמיונית). בספרו הקלאסי של אריך קסטנר "שלושים וחמישה במאי", ישנו פרק שלם בו שני גיבורי הסיפור צופים בחניבעל משחק בחיילי צעצוע מול המצביא הגרמני אלברכט פון ולנשטיין. קסטנר מתאר את שני המצביאים ככאלו שלא חסים על חיי חייליהם, ומונעים מאינטרסים טיפשיים של כבוד. צבי הרמן כתב ספר בשם "זכרונות חניבעל", בו מספר כביכול חניבעל את סיפור חייו. ג'ון מדוקס רוברטס כתב בשנת 2002 ספר בשם "ילדי חניבעל", המציע היסטוריה חלופית לפיה חניבעל כבש את רומא והפך לרודן של קרתגו, הספר מתמקד בילדיו. פול אנדרסון כתב ספר בשם "מסע בזמן", המתאר שני גיבורים בני זמננו החוזרים בזמן ומסייעים לחניבעל להביס את הרומאים בעזרת נשק מודרני.