Da Rhoads var 14 år dannet han et band som het Violet Fox (etter morens mellomnavn «Violet»), sammen med broren Kelle på trommer. Violet Fox hadde en del opptredener på morens musikkskole. Da Violet Fox gikk i oppløsning, lærte Rhoads sin beste venn Kelly Garni å spille bassgitar, og sammen dannet de bandet The Whore. Bandet gikk, etter et par opptredener i Los Angeles i oppløsning, og duoen dannet Quiet Riot da Rhoads var 16 i 1971. Kevin DuBrow kom med som vokalist, og Drew Forsyth som hadde spilt med Rhoads og Kelly tidligere, som trommeslager.