Kelly fikk sin debut for Leeds United i 1991/1992-sesongen, men etablerte seg ikke fast på førstelaget før 1993/1994-sesongen da han fikk tillit av manager Howard Wilkinson. Denne sesongen ble også hans gjennombrudd som fotballspiller, og han ble valgt ut til PFA Team Of The Year som høyreback. Hans positive spill gjorde også at han ble tatt ut til s tropp til VM i fotball 1994 av landslagstrener Jack Charlton. Her utgjorde han del av den såkalte trioen «Three Amigos» sammen med Phil Babb og Jason McAteer, som var den yngste delen av en aldrende irsk landslagstropp.