Delaney verloor in 2000 met Villa de finale van de FA Cup tegen Chelsea met het kleinste verschil (1-0). Roberto Di Matteo scoorde het doelpunt. Delaney speelde de hele wedstrijd als rechtervleugelverdediger naast een driemansdefensie. Alan Wright speelde links in de verdediging. In augustus 2007 was Delaney wegens blessureleed genoodzaakt een einde te maken aan zijn professionele loopbaan. In zijn laatste twee seizoenen speelde hij slechts twaalf wedstrijden in de Premier League. Delaney speelde in totaal 158 wedstrijden voor Villa in de Premier League.