Em 1881, o jovem incorpora-se ao 3º Regimento de Artilharia a Cavalo. Ingressa na Escola Militar, no Rio de Janeiro, onde obtém o bacharelado em Ciências Físicas e Naturais. Em 1888 será segundo-tenente. De ideias abolicionistas e republicanas, Rondon participou diretamente com Benjamim Constant das articulações do golpe republicano que derrubou Dom Pedro II, o último imperador do Brasil.