Senat von Mississippi
Nach dem Krieg kehrte er nach Iuka in seine alte Position zurück. Stone wurde Mitglied der Demokratischen Partei und Bürgermeister von Iuko. Zwischen 1866 und 1868 war er Kämmerer im Tishomingo County. Von 1869 bis 1876 gehörte er dem Senat von Mississippi an. Dort brachte er es bis zum Präsidenten des Hauses. In dieser Eigenschaft musste er am 29. März 1876 nach dem Rücktritt von Gouverneur Adelbert Ames dessen Amt übernehmen, weil Vizegouverneur Alexander K. Davis bereits zuvor seines Amtes enthoben worden war.