Aanvankelijk bracht hij de Romeinen verschrikkelijke nederlagen toe, waaronder de Slag bij de Trebia, de Slag bij het Trasimeense Meer en vooral de Slag bij Cannae, waar 8 legioenen werden vernietigd en 48.000 Romeinen sneuvelden. Hannibal was onbetwist een superieur veldheer, maar wat ook bijdroeg aan zijn successen was dat sommige bondgenoten van Rome in Italië en de pas veroverde Gallische gebieden in de Povlakte de strenge Romeinse overheersing beu waren en overliepen naar de Carthagers. Hannibal kreeg een blijvende plaats in het Romeinse bewustzijn. "Hannibal ad portas!" werd een staande uitdrukking voor dreigend gevaar.