I 1985 startet han bandet Guns N' Roses sammen med Tracii Guns, som etter kort tid ble erstattet med Slash, og Rob Gardner, som ble erstattet av Steven Adler, Izzy Stradlin og Duff McKagan. De fikk platekontrakt med Geffen Records i 1986. Deres første album fra 1987 slo ikke gjennom med en gang, men ble etter hvert en sensasjon. På det første albumet ble alle medlemmene i bandet kreditert for sangene, men det var Stradlin og Rose som sto bak de fleste av de mest kjente sangene. Rose skrev blant annet teksten til «Sweet Child O'Mine» til sin daværende kjæreste Erin Everly.