Bandet ble etablert i 1985 etter at vokalist Jimmy Somerville forlot Bronski Beat og slo seg sammen med den klassisk trente pianisten Richard Coles. De fikk med seg bassist Dave Renwick som også hadde spilt med Bronski Beat. De fikk sin første Top 30 hit i Storbritannia i 1985 med låten «You Are My World» fra singlen med samme navn. Året etter fikk de en hit med coverlåten «Don't Leave Me This Way», som ble deres største hit. Singlen ble den mestselgende i Storbritannia i 1986. Samme år hadde de hit med låten «So Cold the Night», som kom på 8 plass.