Dopo essersi diplomato in letteratura nel 1858 entrò nella Scuola Militare di Rio de Janeiro, diplomandosi in Scienze fisiche e matematiche nel 1863; in seguito si iscrisse ai corsi di ingegneria militare, ma non riuscì a completare gli studi perché fu chiamato in servizio con altri alunni allo scoppio della guerra della Triplice Alleanza. Incorporato nella spedizione del Mato Grosso, trasse dall'esperienza ispirazione per uno dei suoi libri più celebri, "La Retraite de Laguna", scritta in lingua francese e pubblicata nel 1872, dove narrò le disastrose vicende belliche a cui partecipò. Dopo essere stato chiamato dal conte d'Eu nello Stato Maggiore dell'esercito brasiliano durante gli ultimi mesi di guerra, Alfredo Taunay passò ad insegnare geologia e mineralogia alla Scuola Militare.