Partecipa alle batterie della staffetta 4x100 m sl assieme a Jimmy Feigen, Ricky Berens e Jason Lezak. Il team statunitense terminerà la finale in seconda posizione, dietro alla Francia. Dopo aver dominato in batteria (52"92) e in semifinale (52"66), vince l'oro nella finale dei 100 m dorso con il tempo di 52"16, battendo il record olimpico di 52"54 stabilito da Aaron Peirsol nel 2008; per Grevers si tratta della prima medaglia d'oro individuale. Nell'ultima gara, la staffetta 4x100 m mista, domina assieme ai compagni Brendan Hansen, Michael Phelps e Nathan Adrian.