"A Ghost Is Born" salió a la venta el 22 de junio de 2004 y se convirtió en el primer disco del grupo en ingresar en el "Top 10" de Estados Unidos.