Phillips startet sin musikalske for alvor allerede da han var 12 år gammel som trommeslager for sin fars gruppe Sid Phillips Band, som var et danseband med flere utgivelser og innspillinger blant annet hos BBC. Etter farens død i 1973 ble for øvrig bandet oppløst og Phillips startet sin egen musikalske karriere som arbeidende studiomusiker. Ettersom han allerede hadde vært med på flere turnéer og på den måten skaffet seg erfaring fikk han i 1974 tilbud om å fylle rollen som trommeslager i en musikaloppsetning av Jesus Christ Superstar i London.