Krótko po podpisaniu kontraktu Giant Records zmieniło nazwę na Rockville Records. Pierwszy album dla tej wytwórni, "No Depression", został nagrany w ciągu 10 dni w styczniu 1990 w studiu Fort Apache South w Bostonie. Temat albumu oscyluje wokół dzieciństwa i okresu dorastania w Belleville; przykładami są piosenki opowiadające o uciekaniu od pracy w fabrykach i obawie przed poborem do wojska na wojnę w Zatoce Perskiej. Zachwyceni sposobem i jakością produkcji albumu "Bug" autorstwa Dinosaur Jr., zespół zaprosił do wyprodukowana płyty Paula Kolderie i Seana Slade. Slade pozwolił Farrarowi grać na gitarze Gibson Les Paul Junior, na której grał J Mascis na "Bug". Album został wydany 21 czerwca 1990 – zespół świętował wydanie płyty grając przez dwie kolejne noce w barze Cicero.