Johansson kommer fra tettstedet Boden, nord i Sverige. Han vokste opp med en far som alltid hadde spilt gitar, og som forsøkte å gi denne interessen videre til sin sønn. Tommy syntes derimot ikke gitaren var så interessant til å begynne med. Det var først da han, 9 år gammel, ble vist Gary Moores musikkvideo «Out In the Fields», at han virkelig fattet interessen for instrumentet og ville lære seg å spille gitar selv. Da han var 15 år gammel begynte han også å synge, etter å ha blitt introdusert for Skid Row-låten «18 and Life». Han ble da med i et band som manglet vokalist, og tenkte at han kunne i det minste prøve å synge. Dermed fikk han et ønske om å utvikle seg også som sanger, i tilfelle han senere skulle ende i et band som trengte vokalist. I niende klasse hadde han en framføring av Tommy Körbergs «Anthem» i kirken, og det var da han virkelig forsto at det var musikken han ønsket å drive med. Mens han gikk på gymnaset hadde han mye fritid til overs, og begynte så å lære seg å spille piano.