El primer álbum de estudio del grupo fue All Over the Place, publicado en 1984, y puso en evidencia las raíces pop de la banda, captando la atención de Prince, quien escribió Manic Monday.