父认为他拥有不凡的天份，所以在1962年送他到日本深造，并进入木谷实的围棋学校来学习围棋。他在叔叔赵南哲及哥哥的陪同下，于1962年8月从东京国际机场进入日本，当时他年仅6岁。赵治勋在机场与木谷实夫妇见面，并结识木谷实的女儿木谷礼子（后来与赵治勋的劲敌小林光一结婚）。抵达日本之后，赵治勋在木谷实学校举办的庆祝会（庆祝木谷实一门总段数达到100段）上击败林海峰（让五子局）。当时许多人聚精会神的观看这场比赛，就像是在欣赏一场职业比赛。赵治勋在7岁的时候加入日本棋院成为院生，并且因为韩国人 的身分而遭到辱骂。