Tất cả bài hát được sáng tác bởi Avey Tare (David Portner) từ năm 1997 tới 1999, trừ "Penny Dreadfuls" được viết khi Portner 16 tuổi. Tiến trình này được ảnh hưởng nặng bởi việc chuyển từ Baltimore đến New York, khoảng thời gian mà anh mô tả là "thời kỳ đen tối" và Brian Weitz (Geologist) là người bạn duy nhất. Portner và Panda Bear (Noah Lennox) thu âm guitar mộc và trống vào một máy Tascam 48 eight-track reel-to-reel trong phòng Portner tại Maryland vào mùa hè năm 1999. Piano và overdub được thực hiện trong phòng khách bố mẹ Portner.
Portner muốn tiếng guitar trở nên "chói tai để tạo nên cảm xúc rung động này".