仍为童稚的堂侄檀韶及其四名弟弟，待他们如同己子。檀凭之初任会稽王司马道子的行参军，后迁桓脩的长流参军，领东莞太守，加宁远将军。檀凭之因为与刘裕同州，且曾数度一同领军，所以彼此交情甚密，在元兴三年（404年），刘裕计划在京口起义兵讨伐时已篡夺东晋帝位的桓玄，檀凭之就以父母之丧借故到京口与刘裕会合，与其合谋。二月乙卯日（3月24日）刘裕正式举兵，次日杀害徐州刺史桓脩并佔领京口。及后刘裕被推为盟主，总督徐州事，并以檀凭之为其司马。三月戊午日（3月27日），刘裕与桓玄所派的吴甫之于江乘大战，刘裕吴甫之后进至