Hovedtrener Jim Mora fikk sparken på slutten av sesongen og ble erstattet med tidligere hovedtrener for Tampa Bay Buccaneers Tony Dungy. Allerede neste år, i 2002, kom Colts tilbake og avsluttet sesongen 10-6. Laget nådde sluttspillet i 2003 og 2004 etter å ha gått 12-4 begge år og vunnet AFC South-tittelen. Colts tapte mot New England Patriots og Tom Brady i AFC Championship Game i 2003 og igjen i divisjonssluttspillet i 2004, som startet en rivalisering mellom de to lagene og deres quarterbacks, Manning og Brady. Etter to nederlag i sluttspillet på rad mo Patriots begynte Colts 2005-sesongen med 13 seiere på rad, inkludert en seier mot Patriots, lagets første seier mot New England med Manning som quarterback. I løpet av sesongen slo Manning og Marvin Harrison NFL-rekorden for touchdowns av en quarterback og receiver-duo. Indianapolis avsluttet 2005-sesongen 14-2, som var det beste resultatet i ligaen det året og det beste resultatet i en 16-kampers sesong for laget, men tapte mot Pittsburgh Steelers i divisjonsrunden av sluttspillet.