拜游击将军。到地方任兖州刺史，加鹰扬将军。改任使持节、都督宁益二州诸军事、安西将军，领益州刺史，称病未去。转任安北将军，代替司马权督守邺城。转任安西将军、都督关中事。太康初年，入朝为散骑常侍、前将军，领邺城门校尉，因病去职。后代替司马孚的儿子下邳王司马晃为尚书右仆射。又到地方任镇西将军，领护西戎校尉、假节，代扶风王司马骏都督关中军事，因病还京。永熙元年十月，接替石鉴为司空，领太子太保。杨骏被杀的时候，司马泰统领杨骏的军营，加侍中，晋惠帝补给他步兵二千五百人，战马五百匹。司马泰坚辞，乃给千兵百骑。楚王