André Rebouças era filho de Antônio Pereira Rebouças (1798-1880) e de Carolina Pinto Rebouças. Seu pai, filho de uma escrava [nascida livre] e de um alfaiate português, era advogado autodidata, deputado e conselheiro de Pedro II. Foi sobrinho do Dr. Manuel Maurício Rebouças, médico, professor da Faculdade de Medicina da Bahia e combatente da Guerra de Independência do Brasil. Em 1854, ingressou na Escola Militar do Rio de Janeiro, concluindo o curso preparatório para oficialado em 1857 como 2° tenente. Bacharelou-se em 1859 em Ciências Físicas e Matemáticas pela Escola Militar da Praia Vermelha, obtendo o grau de engenheiro militar em 1860 .