Gaines ble født i Winter Haven i Florida. Som ungdom prøvde han flere forskjellige sporter, men ga opp disse til fordel for svømming da han begynte som elev ved Winter Haven High School. Han forbedret seg da kraftig og ble tilbudt et svømmestipend ved Auburn University. Ved Auburn ble han trent av tidligere trener ved Stanford University, Richard Quick, og ble femdobbel NCAA-mester.