大正3年（1914年）生于福岛县双叶郡大久村（现磐城市大久町）的一户农家，是家中的第三个儿子。小学毕业后进京，一边就读初中一边放弃了作为拳手的念头，听男高音藤原义江的唱片，想唱当时作为流行歌的日本歌曲，半工半读毕业于东洋音乐学校（现东京音乐大学）。在浅草的评论小屋，课余灌制的爱迪生・唱片『我的回忆』（仆の思い出）引起哥伦比亚文艺部长松村重武（演员松村达雄的父亲）的注意，昭和11年（1936年）时进入哥伦比亚公司。当时的哥伦比亚，松平晃是招牌明星。雾岛把松平做为目标磨练歌唱技术，借用松平没有的男高音的甜美