Op de Spelen van Londen in 2012, kwam Phelps aan de start op 7 nummers. Bij deze Spelen won Phelps na een teleurstellend begin (4e op de 400 meter wisselslag) toch 4 gouden en 2 zilveren medailles, nog altijd het meeste van alle zwemmers op het toernooi. Op de 4x100 meter vrije slag estafette nam Frankrijk revanche op Amerika voor het nipte verlies van vier jaar geleden, en op de 200 meter vlinderslag werd Phelps met 0,05 seconde verslagen door de Zuid-Afrikaan Chad le Clos. Phelps won echter zijn laatste vier finales op het toernooi. Phelps werd de eerste mannelijke zwemmer die op drie opeenvolgende Spelen hetzelfde individuele nummer wist te winnen en de eerste zwemmer (man of vrouw) die twee individuele nummers op drie opeenvolgende Spelen wist te winnen. Hij deed dit op de 200 meter wisselslag en de 100 meter vlinderslag. Daarnaast won Phelps samen met zijn teamgenoten ook de 4x200 meter vrije slag estafette en de 4x100 meter wisselslag estafette, beide ook voor de derde Spelen op rij. Met z'n 6 medailles werd Phelps de meest succesvolle Olympische atleet aller tijden met in totaal 22 Olympische medailles waarvan 18 gouden, 2 zilveren en 2 bronzen.