Bayh har bachelorgrad i bedriftsøkonomi og offentlig politikk fra Indiana University Kelley School of Business fra 1978 og kandidatgrad i rettsvitenskap fra University of Virginia School of Law fra 1981. Han var dommerfullmektig før han ble privatpraktiserende advokat i Indianapolis i 1980-årene. I perioden 1997–1998 var han advokat og partner i advokatfirmaet Baker & Daniels LLP, i tillegg til å forelese ved Indiana University Kelley School of Business. Etter sin tid i Senatet har Bayh vært partner i advokat- og lobbyfirmaet McGuireWoods LLP i Washington, D.C., seniorrådgiver i oppkjøpsfondet Apollo Global Management, kommentator for Fox News og styremedlem i flere industriselskaper.