Vid sommar-OS 2012 i London vann Thoman sin första OS-medalj, ett silver, i 100-meter ryggsim. I finalen kom Thoman tvåa bakom kollegan Matt Grevers med en tid på 52,92. Han fick också en guldmedalj när han simmade rygg för det vinnande amerikanska laget i 4 × 100-meters medley-stafetten .