前往日本，寄宿于嘉纳治五郎家中并进入接受教育。稍后，他又进入附中就读。1922年3月在熊本市的日本基督教会受洗，同月底毕业于熊本第五高等学校，一个月后考入东京帝国大学法学部政治科（一说「法政科」）。在东京帝大期间他参与了启发会、新民会等组织活动，并在《台湾青年》、《台湾》杂志（皆为《台湾民报》前身）上发表文章。1925年3月，林攀龙自东京帝国大学毕业；4月，他同意放弃继承家产，换取父亲同意自日本乘船前往英国求学，并于9月进入牛津大学攻读文学、宗教与哲学。1927年林献堂前往欧洲各国考察时，他也跟随在侧。