I New York møtte Buckley sine endelige bandmedlemmer: Mick Grøndahl (bass), Michael Tighe (gitar) og Matt Johnson (trommer). De spilte i 1994 inn albumet , som høstet gode kritikker verden rundt. På dette albumet finnes blant andre tittellåten «Grace» og hans kanskje mest kjente innspilling, «Hallelujah», en coverversjon av Leonard Cohens sang. Etter at platen var utgitt, turnerte Buckley en hel del, både som soloartist og med band.