淞口外轮上面见孙中山并接受他的指示。清光绪卅二年（1906年）秋，陈陶遗第二次来到日本。他在日本为同盟会做机要工作，又接办了《民报》以及《醒狮》周刊，并担任了暗杀部的副部长。其间，章太炎在日本讲学，陈陶遗是热心听众。章太炎给他改名为“陶遗”，意为“陶唐氏之遗民”。清光绪卅三年（1907年），陈陶遗继高天梅、章梓之后任中国同盟会江苏分会会长，并仍担任暗杀部副部长。同年初夏，陈陶遗奉命回国谋刺两广总督端方，事泄被捕，关入南京监狱，关押一年后经营救获释。端方曾亲自接见陈陶遗并想给他官职加以笼络，遭到他的拒绝。