安徽统领韩大武称︰「皖省之『励志学社』与东京拒俄义勇队互通声息，名为抗俄，实为排满，且密佈党羽，希图大举，务将何春台、陈仲甫一体缉获。”。韩大武的文案吴汝澄是陈独秀的朋友，得到端方电令后，连夜把消息透露给陈独秀。陈等人得到消息后逃往上海。至上海后，又和章士钊、谢晓石、张继等人出版《国民日日报》，社址设在新闸新马路梅初里。同年12月1日，上海地方政府禁止出售国民日日报。此后，他回到安庆。1904年3月31日，陈独秀和房秩五、吴守一创办白话文《安徽俗话报》，“让安徽人通达时事，长点见识”。他担任所有编辑和发