兵讨伐桓玄，并攻下建康，即以徐羡之为镇军参军、尚书库部郎、领军司马。后调为大司马司马德文的参军、司徒左西属、徐州别驾从事史、太尉谘议参军。义熙十一年（415年）外调为鹰扬将军、琅邪内史，后再任司马德文的大司马从事中郎。次年刘裕北伐后秦，徐羡之就转任太尉左司马，留守建康留府，并担任总摄内外的尚书左仆射刘穆之的副手。义熙十三年（417年），刘穆之去世，朝廷原本就打算下诏命徐羡之接替刘穆之的位置，然而张邵则主张谘询尚在长安的刘裕。刘裕当时却意在王弘，不过谢晦却说：「休元为人轻率，及不上羡之。」刘裕于是同意由徐羡之