唯一男女合校的冈山中学初中部担任理化老师，同时开始对教学产生兴趣，任教二年之后方返回台大物理系担任助教并准备出国留学。1957年夏，林清凉前往日本留学，并拒绝以留学生名义入学而参加当地入学考试。首次入学考试，林清凉未能被录取，直到再度重考后方得进入东京大学就读。在该校就读期间，林清凉也遇到了部分台日籍学生与中国大陆籍学生之间的冲突，对此她认为有部分的台籍留学生行为过当，并出面斥责之。1966年，林清凉自东京大学获得物理博士学位，毕业后继续在日本从事博士后研究，并与朋友合作处理一位被烧死在开刀室的台籍脑外