子。泰始元年（265年），晋武帝篡魏建晋，封叔父司马肜为梁王，封邑五千三百五十八户。后司马肜到封国就藩，迁北中郎将，督邺城守事。其时当时诸王能够自选官属，司马肜以汝阴郡上计吏张蕃为中大夫。张蕃本名张雄素无品行，其妻刘氏本是曹爽的教坊歌伎，他本人又往来何晏居所，放纵作奸淫之事。高平陵之变后，张蕃被徙河间，改成现名结交司马肜。此事被有关部门所奏，司马肜被削一县，但至咸宁年间，又以陈国、汝南郡的南顿增封为次国。太康年间，司马肜接替孔恂监豫州军事，加平东将军，镇守许昌。不久，司马肜又以本官代下邳王司马晃监青州徐