Fossil ist "Myrmecophaga" erstmals im Pliozän fassbar, zu den ältesten Funden gehören jene von Monte Hermoso aus der argentinischen Provinz Buenos Aires. Der aufgefundene dritte Mittelhandknochen gehört der ausgestorbenen Art "Myrmecophaga caroloameghinoi" an, welche ursprünglich in die eigene Gattung "Nunezia" verwiesen worden war. Weitere alte Funde kamen aus El Breal de Orocual im Nordosten Venezuelas zum Vorschein, welche in den Übergang vom Pliozän zum Unteren Pleistozän zu stellen sind. Funde aus Sonora im Nordwesten Mexikos zeigen, dass die Ameisenbärenart im Unteren Pleistozän im Zuge des Großen Amerikanischen Faunenaustausches bis weit nach Norden vordrang und später durch klimatische Veränderungen wieder auf ihr heutiges Verbreitungsgebiet zurückgedrängt wurde. Die südlichsten Funde stammen aus Uruguay. Allgemein ist der Große Ameisenbär recht häufig fossil aus dem Pleistozän überliefert.