官界を去ると愛国社創立に参画し、その後は弁護士(当時は代言人)として活動する傍らで自由民権運動急進派の指導者として活躍する。