Dylan sluttet på universitetet etter et knapt år. I januar 1961 flyttet han til New York, for å opptre og for å besøke sitt idol Woody Guthrie, som lå på dødsleiet på et sykehus i New Jersey. Guthrie var for Dylan en åpenbaring, og den største påvirkningen på hans tidlige opptredener. Hos Guthrie møtte Dylan også Guthries venn, musikeren Ramblin' Jack Elliott. De to ble venner, og Dylan lærte mange av Guthries sanger av Elliott. I New York ble han kjent med den irske gruppen Clancy Brothers som påvirket den unge Dylan. Dylan uttalte at Liam Clancy var den best balladesangeren han hadde hørt. I New York gikk han søndagene for å høre gospel i Madison Square Garden med tidens ledende gospelsangere. Debutplaten fra 1962 har musikk som stammer fra sørstatenes tradisjon som spirituals og blues. Fra og med debuten i 1962 (innspilt i 1961) til 1964 er motiver og symboler fra bibelen viktige ingredienser i Dylans tekster.