Kefauver var baptist av engelsk, fransk og italiensk herkomst. På fars- og morssiden var slekten proprietærer, mens faren også drev handel. Etter college ved University of Tennessee i 1924 tok han sin juridiske eksamen med laud ved Yale Law School i 1927. Frem til han ble valgt til Representantenes hus fra Tennessees 3. distrikt i 1939, praktiserte Kefauver som advokat i Chattanooga. Han var først ansatt i Cooke, Swaney & Cooke LLP, senere som partner i Sizer, Chambliss & Kefauver LLP og Duggan, McDonald & Kefauver LLP. Hans politiske interesse skal ha blitt vekket i rollen som advokat for . Han giftet seg i 1935 med skotske Nancy Pigott fra Glasgow. Paret hadde fire barn.