接替孔恂监豫州军事，加平东将军，镇守许昌。不久，司马肜又以本官代下邳王司马晃监青州徐州军事，进号安东将军。
公报私仇.元康元年（291年），司马肜转征西将军，都督关中诸军事，领护西戎校尉，又加侍中，进督梁州。同年再征为卫将军、录尚书事，行太子太保，给千兵百骑。元康六年（296年），由于赵王司马伦赏罚失当导致氐羌大乱，朝廷就征还他，再以司马肜再为征西大将军，都督凉州、雍州诸军事，再镇关中，置左右长史、司马。并领西戎校尉，屯守好畤，督建威将军周处、振威将军卢播等讨伐称帝的氐人齐万年。周