Edinburgh speelde mee in de finale van de League Cup van 1999, waarin Spurs het opnam tegen Leicester City. Hij werd na 63 minuten uitgesloten nadat hij een vuistslag zou hebben uitgedeeld aan Leicester-middenvelder Robbie Savage. Een herhaling van de fase gaf echter aan dat Savage de rode kaart wilde uitlokken en dat Edinburgh hem licht raakte. Menig televisiezender of ander mediakanaal was ervan overtuigd dat Edinburgh onterecht van het veld werd gestuurd. Tottenham won de beker na een laat doelpunt van Allan Nielsen. Edinburgh speelde vanaf 2000 bij Portsmouth, opnieuw na een korte huurperiode. Hij speelde minder en beëindigde zijn loopbaan in 2003.