Hans foreldre døde da han var et spedbarn, noe som resulterte i at han ble adoptert av en onkel, som han fullførte læretiden som snekker hos. Walton var en politisk alliert av den skotsk-irske politikeren Lachlan McIntosh. Walton var innsatt som guvernør i Georgia i 1789, og han begynte som senator i 1795. Walton var også oberst i det amerikanske militæret, og han ble holdt fanget i to år av den britiske hæren som en forræder til den britiske kronen. Etter to år i fangenskap ble han byttet mot en britisk marineoffiser og løslatt.