郡人。宋武帝刘裕的姨表兄。东晋末年将领，曾与刘裕一同起兵讨伐桓玄，及后亦主要负责平定桓楚余众。
生平.刘怀肃家境贫寒，务农为业但为人好学。刘怀肃后来从军，初任宁朔将军刘敬宣的司马，曾参与讨伐孙恩叛军，累有战功。后又曾转龙骧司马及费县县令。元兴三年（404年），刘怀肃知道刘裕将于京口（今江苏镇江）起兵讨伐篡位的桓玄，于是弃县走到京口与其一同起事。同年三月，刘裕攻下建康，桓玄出逃江州，刘毅与刘道规及何无忌领兵追击，刘怀肃就以刘道规司马的身份随军。四月，留守江州的桓玄部将何澹之等人遭