Savage lærte seg å spille gitar i tidlig ungdom samtidig som han prøvespilte for fotballaget Sheffield United – til tross for at han holdt med naborivalene Sheffield Wednesday. Han valgte etterhvert musikken og ble med som gitarist i et lokalt coverband, Atomic Mass, der Joe Elliott var vokalist og Pete Willis var gitarist.