In den nächsten Jahrhunderten fanden Kriegselefanten auch im Krieg gegen das Römische Reich Verwendung. Die erste Begegnung Roms mit Kriegselefanten geschah in der Schlacht von Heraclea 280 v. Chr. gegen Pyrrhus. Der bekannteste Feldherr, der Kriegselefanten gegen Rom einsetzte, war der Karthager Hannibal. Berühmt geworden ist vor allem seine Überquerung der Alpen mit 37 hauptsächlich afrikanischen, aber auch mindestens einem indischen Elefanten im Jahre 218 v. Chr. Doch nach der verlustreichen Überquerung der Alpen und der Schlacht an der Trebia hatte er bei der Schlacht am Trasimenischen See nur noch einen einzigen Elefanten zur Verfügung. Er befehligte die Schlacht von diesem indischen Elefanten mit Namen Surus aus, von dem aber während seines weiteren Feldzugs in Italien keine Rede mehr war. Bei der Schlacht von Cannae 216 spielten Elefanten dann keine Rolle mehr. Sein Bruder sollte noch einige Kriegselefanten von Spanien zur Verstärkung bringen, wurde jedoch unterwegs in der Schlacht am Metaurus vernichtend geschlagen. Ob danach auf dem Seeweg noch einmal Elefanten von Afrika nach Italien gelangten, ist unklar. In Hannibals letzter Schlacht, der Schlacht von Zama im Jahre 202 v. Chr., wieder auf afrikanischem Grund, wurde jedenfalls deutlich, dass die hier eingesetzten, noch nicht fertig trainierten Elefanten der Karthager vor den römischen Fanfaren scheuten. Zudem war ihr Einsatz ineffektiv, da die Römer offenbar Gassen für die Elefanten bildeten und somit nur wenige Soldaten niedergetrampelt wurden. 156 Jahre später, in der Schlacht bei Thapsus am 6. Februar 46 v. Chr., bewaffnete Julius Caesar seine Legio V Alaudae mit Äxten und gab Anweisung, auf die Beine der Tiere einzuschlagen. Die Legion war siegreich und wählte fortan den Kriegselefanten zu ihrem Wappentier. Die Schlacht bei Thapsus gilt als der letzte große Einsatz von Kriegselefanten im westlichen Kulturkreis.