Navnet Ingram ble forkortet til Gram, og han fikk sin stefars etternavn Parsons. Både hans økonomiske uavhengighet og det at han ikke var avhengig av de andre musikerne, gjorde at han levde et omflakkende og rastløst liv. Han startet bandet The International Submarine Band da han var student ved Harvard. Bandet flyttet til California og spilte inn albumet . Dette albumet har en frisk lyd og inneholder nye tolkninger av blant annet Johnny Cash' «I still miss someone» og egne komposisjoner. Bandet ble imidlertid oppløst etter innspillingen og Parsons ble med i The Byrds. Det var opprinnelig tenkt at han her skulle ha en litt tilbaketrukket rolle, men han tok snart over, og dette kommer tydelig fram på albumet , som låter annerledes enn noe annet The Byrds har gjort, siden det er rendyrket countrymusikk. Parsons sluttet i The Byrds da det ble bestemt at bandet skulle på turné til Sør-Afrika; han fulgte samme linje som Rolling Stones, som allerede hadde uttalt at det var umoralsk i spille der på grunn av landets apartheidstyre.