Después del lanzamiento de On Avery Island, Neutral Milk Hotel se convirtió en una banda de pleno derecho, como Julian Koster, Spillane Scott y Jeremy Barnes se unió a Mangum, la banda ahora con sede en Nueva York.