Ele é nomeado primeiro vice-chefe do Governo Provisório. Em uma viagem a Paris, ele se encontra com D. Pedro II e fala: "Majestade, me perdoe, eu não sabia que a República era isso"; tamanha era a decepção com o estado do país após a proclamação da República. Em 1892, abandona a bancada do Senado, depois de feita a justificativa em discurso. Dias mais tarde, lança um manifesto à nação no qual diz a famosa frase: "Com a lei, pela lei e dentro da lei; porque fora da lei não há salvação. Eu ouso dizer que este é o programa da República".