2年）迁任太宰。司马晞虽无学识，但有军事才干，喜好学习与军事有关的东西，故此被桓温所忌，很想将他废掉。太和六年（371年）十一月，时任大司马的桓温废黜晋废帝，改立晋简文帝。在当月就上奏诬陷司马晞即将作乱，终废去司马晞及其二子的官职。不久，桓温更派弟弟桓祕逼迫新蔡王司马晃自诬与司马晞及太宰长史庾倩及着作郎殷涓等人图谋造反，司马晞于是被收付廷尉。随后，御史中丞司马恬在桓温的指令下奏请诛杀司马晞，但在简文帝的坚持下，桓温虽然再作请求仍不得要领，最终令司马晞免于被诛杀。司马晞后被废去爵位，与家属皆流放至新安郡。