革命党人拥护陈陶遗任江苏都督，被陈陶遗辞让。南京临时政府成立后，陈陶遗被选为南京临时参议院副议长。民国元年（1912年）8月，同盟会改组为国民党，陈陶遗当选国民党江苏省支部长，并随同孙中山、黄兴等到北京和袁世凯举行会谈。民国二年（1913年）3月，宋教仁被暗杀，此后孙中山、黄兴发动二次革命失败，被迫再次流亡海外，陈陶遗则回乡隐居，并掩护讨袁军第一师师长章梓和第三师师长冷遹来到松隐镇避难。民国十四年（1925年）冬，军阀孙传芳自封五省联军总司令，提出“苏人治苏”的主张，陈陶遗被朋友张一麐推荐到南京就任