遭到教官撤换。1965年毕业，7月入伍服兵役，担任预官，任陆军政务官；9月任少尉营务官。1966年夏天退伍。1966年11月，张良泽前往日本。1967年3月入关西大学中国文学研究所留学，师事增田涉。留学期间曾尝试翻译三岛由纪夫的小说《金阁寺》，并与钟肇政合译为单行本，由晚蝉书店发行。1970年获得文学硕士学位。在日本期间，得到台湾青年独立联盟机关刊物《台湾青年》。1972年9月，张良泽在国立成功大学中国文学系主任尉素秋介绍下回国任该系专任讲师，并在成大要求下加入中国国民党。在成大任教期间曾以「铁英」