Hans neste klubb ble Queens Park Rangers FC, og i 1986 kom laget til finalen i Ligacupen der det ble et 3-0-tap mot hans gamle klubb, Oxford United. I desember 1988 gikk han til Newcastle United FC. Laget hadde slitt tidlig i 1987/88-sesongen, og Smith greide ikke å snu trenden og laget rykket ned etter å ha blitt nummer 20 og sist i 1. divisjon. Året etter endte laget som nummer 3 i 2. divisjon, men ble slått ut playoffkampene og måtte spille nok en sesong på det nest øverste nivået. Etter relativt svake resultater i 1990/91-sesongen fikk Jim Smtih sparken i klubben fra Tyne and Wear i mars 1991.