Manageren Malcolm McLaren, som tidligere hadde jobbet med The New York Dolls, startet Sex Pistols i 1975. Jones og Cook var de første han fikk med i bandet. Hovedmålet deres var å spille rå, aggressiv rock & roll (punk), nokså inspirert av New York Dolls og The Ramones fra USA, og å sjokkere Storbritannia så mye som mulig. McLaren, Jones og Cook fikk med seg Rotten (Lydon) og Matlock, som var bandets dyktigste låtskrivere. (Steve prøvde å skrive noen låter, men det endte i at Rotten ikke klarte å lese håndskriften hans, og at Jones ikke husket teksten. Etter å ha skapt seg et navn ved spillejobber i London, fikk de kontrakt med et stort selskap og ga ut singelen i 1976. Etter å ha skapt skandale både på riksdekkende fjernsyn og i Londons gater, for ikke å snakke om jukebokser, og skiftet bassist (til Vicious, som var fullstendig umusikalsk. Steve Jones måtte spille bass på platen i stedet for Vicious som heller ble et sex/dop-symbol for bandet) ga de ut singlene , og og det legendariske albumet Never Mind the Bollocks, Here's the Sex Pistols (som for øvrig ble bandets eneste studioalbum) i 1977. Dessuten dro de på omfattende Storbritannia-turnéer, og overalt hvor de dro spratt det opp punkgrupper (blant andre The Clash i London og Buzzcocks og Joy Division i Manchester).