Atkinson var manager for «The Owls» fra februar 1989 til juni 1991. Selv om klubben rykket ned til 2. divisjon i 1990, var de tilbake bare et år senere. Klubben vant også Ligacupen i 1990-91, etter å ha slått Atkinsons gamle klubb Manchester United 1-0 i finalen på Wembley. Dette var klubbens første trofé på 56 år. Atkinson fornærmet Wednesday-supporterne ved at han 31. mai 1991 sa at han ville fortsette som klubbens manager, men bare uker senere signerte han likevel for Aston Villa.