Duffy ledet førstedivisjonslaget Dundee til finalen i den skotske ligacupen i november 1995, men laget tapte 2-0 for Aberdeen. Videre var Duffy manager for Hibernian i to år fra 1996 til 1998 uten suksess. Etter at han hadde jobbet som trener for Chelsea og Portsmouth, returnerte han enda en gang som manager for Dundee i 2002.