Smith begynte å spille gitar etter å ha blitt inspirert av kameraten Dave Murray, som han kjøpte sin første gitar av. De to dannet bandet Stone Free, men det tok ikke lang tid før de begge var i andre band. Murray havnet etter hvert i Iron Maiden, mens Smith havnet i Urchin. Han fulgte etter Murray og startet i Maiden fem år senere.