Han ble valgt inn i Kongressen i 1937. I 1941 stilte han til valg i Senatet, mot den sittende guvernøren i Texas, W. Lee "Pappy" O'Daniel, men tapte i et kontroversielt valg. Han prøvde seg igjen i 1948, og vant i nok et kontroversielt valg. I 1953 ble han valgt til minoritetsleder i Senatet. I 1954 ble han gjenvalgt, og siden Demokratene fikk flertall, ble han majoritetsleder.