Wylde begynte å spille gitar som 15-åring. Han har selv sagt at han som regel spilte 12 timer hver dag og noen ganger i strekk fra da han kom hjem fra skolen, til han skulle tilbake på skolen neste dag, for så å sove gjennom hele dagen. Når han vokste opp, spilte han i det lokale bandet «Stone Henge». Noen år senere, skiftet han gruppe til «Zyris». I 1987 takket han ja til å bli fast medlem i Ozzy Osbournes band. Han debuterte på albumet i 1988.