密谋讨伐桓玄，复兴晋室，于是与刘毅、王懿、孟昶、檀凭之等人共谋起兵。刘裕等军于二月乙卯日（3月24日）正式起兵，并于次日成功夺取了京口及广陵两个重镇的控制权。当时何无忌亦推荐了刘穆之给刘裕作为主簿。刘裕及后率军攻陷建康，桓玄出走江陵，刘裕在建康以武陵王司马遵承制建立行台，司马遵遂以何无忌为辅国将军、琅邪内史，并授予司马道子府中精兵，命其与刘道规在刘毅统领下追击桓玄。
讨平诸桓.桓玄西走江陵，留何澹之等人留守湓口，而何无忌和刘道规就于四月庚戌日（5月18日）在桑落洲与何澹之军作战，何