Anderson dannet i slutten av 1980-årene sammen med Mat Osman og Justine Frischmann. I 1993 lanserte de sitt debutalbum, , som nådde førsteplassen på den britiske albumlista. I slutten av 1990-årene utviklet han et narkotikaproblem, men fortsatte i bandet til de ble oppløst i 2003. Han startet deretter sitt eget soloprosjekt og innledet diverse samarbeid med andre musikere. I 2004 dannet han gruppa sammen med tidligere -gitarist Bernard Butler. I 2005 gav gruppa ut sitt første og eneste album . Bandet ble oppløst året etter.