Il se rapproche rapidement de Zebulon Baird Vance, qui est l'un des principaux opposants à la Reconstruction dans l'État de Caroline du Nord. Il devient l’assistant personnel de Vance quand ce dernier est élu au poste de gouverneur et se lance ainsi dans la vie politique. Overman est alors élu pour la première fois à la Chambre des représentants de Caroline du Nord.