Kevin Barnes var high school-student i Florida da han tidlig i 1996 signerte en kontrakt hos Bar/None Records. Han forteller at han hadde møtt en ferierende jente fra Montréal der, og at de lenge hadde et litterært kjærlighetsforhold. Da han dro til Montreal for å besøke henne, fungerte det derimot ikke. Barnes beskriver den mislykkede kjærligheten som en stor inspirasjonskilde til sin musikk, og det var grunnen til at han tok navnet . Til innspillingen av låtene sine trengte han dog hjelp fra andre musikere, og i en rimelig resultatløs jakt på bandmedlemmer, bodde han for kortere perioder i mange forskjellige amerikanske byer. Gjennom Bar/None fikk derimot Barnes kjennskap til Julian Koster, medlem av band som The Music Tapes og Neutral Milk Hotel. På Kosters oppfordring besluttet Barnes å flytte til Athens i Georgia for å delta i byens blomstrende musikkmiljø, som var spesielt sentrert rundt det innovative Elephant Six-kollektivet.