La banda se formó en 2003 cuando el guitarrista Dan Smith y la cantante Shingai Shoniwa se conocieron en el BRIT School en Croydon, quiénes ya habían estado juntos en la banda Sonarfly.