1899年和1900～1901年两次参加科举均止于院试。后来在国内新学的风潮中，于1901年到南京进入江南水师学堂（民国后改海军军官学校），在管轮班（轮机科；轮机专业）读了6年，当时专业科目都用英文书，他因此有了相当的英文基础，后来考取官费生，和哥哥鲁迅、好友许寿裳（季茀）等人留学日本。
留学日本.课余和哥哥翻译出版了《域外小说集》（在1909年的2月，印出第1册，到6月间，又印出第2册），这两部译作以东欧弱小民族文学为主，也包括王尔德等的作品，其中的迦尔洵的《四日》，安特来夫