El segundo álbum de la banda, Oh No, fue grabado en Malmö, Suecia, y producido por Tore Johansson (The Cardigans, Franz Ferdinand) en otoño de 2004.