Da David Crosby kom tilbake til Chicago fra New York City var han mye sammen med Terry Callier. På den tiden var Miriam Makeba og bandet hennes i Chicago., Callier kjente musikeren Jim McGuinn og presenterte ham for Crosby. Crosby begynte å spille sammen med Jim McGuinn (som senere forandret navnet sitt til Roger) og Gene Clark, som fikk navnet the Jet Set. De fikk med Michael Clarke på trommer, noe som gjorde at Crosby forsøkte, uten suksess, å spille bassgitar. Sent i 1964, ble Chris Hillman med i bandet som bassist, og Crosby befridde Gene Clark fra rytmegitaren. Via et kjennskap Jim Dickson (the Byrds manager) hadde med en i Bob Dylans stab, fik bandet muligheten til å spille inn en demo av Dylan's "Mr. Tambourine Man" og senere spille inn en versjon av sangen, med McGuinn på 12-strengs gitar Og McGuinn, Crosby og Clark's trestemte sang. Sangen viste seg å bli en massive hit, som klatret til nummer 1 på hitlistene både i USA og i Storbritannia i 1965. Mens McGuinn skapte the Byrds' varemerke, 12-strengsgitarlyden, var Crosby ansvarlig gor de litt såre hsangarmoniene, ofte med en litt uvanlig frasering Av sangene sine, selvom han ikke sang førstestemme på noen av sine to første album. Han sang førstestemme på deres andre singel, "All I Really Want to Do".