军、徐兖二州刺史，出镇京口，接着亦开始消灭北府军势力，和刘牢之关系密切的北府将领吴兴太守高素、辅国将军竺谦之、谦之堂兄高平相竺朗之、辅国将军刘袭和袭弟彭城内史刘季武。刘袭兄刘轨、高雅之及前去投靠二人的牢之子刘敬宣则在山阳附近尝试对抗桓玄失败后，往北逃难到南燕；元兴二年二月，桓玄又杀冀州刺史孙无终。至于刘裕，其实桓玄亦知其具威胁，但其时除了在讨伐孙恩余众外，桓玄亦指望刘裕助其北伐，故一直都未有加害，反倒相当礼待。
重建北府.刘裕世居京口，在刘牢之叛归桓玄之际表明反对，后牢之欲叛桓玄时