Bandet ble grunnlagt i 2005 av Jake Duzsik og John Famiglietti, som senere fikk med seg Benjamin Miller og Jupiter Keyes, før de la ut sitt første album i 2007. Per juli 2024 har de gitt ut yttligere 5 album ; i 2009, i 2015, i 2019, dobbeltalbumet i 2020 og 2022, og i 2023. De har også bidratt til lydsporet hos flere videospill, blant annet til , , , og .