休之年轻时就任高贵显要的职位，又因其兄司马尚之甚受当政的司马道子倚仗，故于隆安二年（398年）王恭叛乱时，司马道子就以司马休之为襄城太守，与两位兄长司马尚之及司马恢之各拥兵权，以支援司马道子。叛乱平定后，司马休之就官拜龙骧将军、襄城太守，镇守历阳（今安徽和县）。
投奔南燕.元兴元年（402年），荆州刺史桓玄因司马元显下令讨伐而率军东下建康（今江苏南京市），并派了将领冯该进攻历阳。司马休之原本固守城池，但在其兄司马尚之兵败后就率五百兵出城作战，终也不能取胜。司马休之于是携同子姪北逃南