Phillips startet sin musikalske karriere allerede da han var 12 år gammel med et skoleband og kom tre år senere i 1965 i kontakt med Mike Rutherford gjennom bandet . Dette bandet opptrådte på forskjellige konsertlokaler i England og spilte coverlåter av blant andre The Rolling Stones før gruppa ble oppløst på slutten av 1966. I 1967 gikk Phillips og Rutherford sammen med Tony Banks og Peter Gabriel for å spille inn noen demolåter, og signerte senere en publiseringsavtale med plateprodusenten Jonathan King. Bandet to etterhvert navnet Genesis, med Chris Stewart på trommer.