Hans første sesong med klubben endte med nedrykk fra den øverste divisjonen, men Nilsson valgte å bli i klubben og ble en favoritt blant klubbens tilhengere med sitt spill i årene som kom. Blant annet var han en sterk bidragsyter til at Sheffield Wednesday vant Den engelske ligacupen i 1991 og at klubben spilte finalene både i ligacupen og i FA-cupen i 1993. I tillegg gjorde dette at klubben fikk spille europacupkamper for første gang på 30 år. I januar 1994 offentliggjorde Nilsson at han ville dra hjem til Sverige, men ble overtalt av Sheffield Wednesdays manager Trevor Francis om å bli i klubben til vårsesongen sluttet.