回上海，任沪军第五团团长。蒋隶属第二师，师长是黄郛，旅长是张宗昌。时与沪军都督陈其美、督署参谋长黄郛甚为相投，遂结为异姓兄弟。蒋被认为是党内有数之军事人才。
刺杀陶成章.1912年1月14日，因派系之争，陈其美命蒋将光复会首领陶成章暗杀于上海广慈医院病房。另有资料记载是蒋亲手枪杀陶。当时报纸没提蒋涉及此一谋杀案。孙中山下令「严速究缉」，蒋因陶案之故，乃避往日本；蒋在日本学习德文，准备去欧洲，还出版《军声》杂志。孙答应辞职让位给袁世凯；蒋和陈其美一样，强烈不赞同孙辞职之决定，但是孙以