用水车推动舂米的旧方法无法与新发明的电器碾米法竞争，家道中落，母亲带着家人搬到蓬莱町租房子，转入太平公学校读四年级。1926年（大正十五年）毕业考入台北工业学校电气工学科。1931年（昭和六年）台北工业学校毕业，参加总督府递信部考试失败，由于录取者皆为日本人，高深感被歧视。1933年（昭和八年），高玉树赴日本留学，在东京打工维生，靠绘画技术当制造工业公司技术顾问。1938年（昭和十三年）考入早稻田大学专门部，1941年（昭和十六年）毕业进大学部，因为与事务员冲突而被开除。在东京期间认识出身医生家庭的黄翠