A Fever You Can't Sweat Out

Album direkam dengan anggaran yang cukup kecil di SOMD! Studios di College Park, Maryland selama beberapa minggu pada Juni 2005. Grup ini saat itu baru saja lulus dari SMA satu bulan sebelumnya. Dengan lirik ditulis oleh gitaris utama Ryan Ross, album ini mengambil tema isu sosial dan topik seperti kesucian pernikahan, perzinahan, gangguan mental, alkoholisme dan prostitusi. Berdasarkan gaya bermusiknya, album ini dibagi menjadi dua bagian; bagian pertama didominasi pop punk dengan unsur musik elektronika, sementara bagian kedua lebih menggunakan instrumentasi tradisional dengan pengaruh musik baroque pop dan swing.