Duff empezó en clubes juveniles de su país, antes de que en 1996 debutara en el Blackburn Rovers, club que en esa década ganaba la Liga inglesa.