Han var medlem av Representantenes hus 1913–1927. Deretter ble han valgt til Senatet. Mens han satt som senator 1927–1949 var han ledet han det demokratiske flertallet i Senatet 1937–1947, deretter det demokratiske mindretallet 1947–1949. Han var 71 år gammel da han tiltrådte som visepresident i 1949. Barkley var senator på nytt 1955–1956.