四年（369年），桓温第三次北伐大败于前燕和前秦联军，豫州刺史袁真不堪被桓温所诬要负上北伐失败的责任而叛变。司马昱在涂中与桓温会面，商讨随后的行动，以桓温子桓熙为豫州刺史。
登基为帝.太和六年十一月己酉日（372年1月6日），大司马桓温废黜晋废帝为东海王，率百官到会稽王府奉迎司马昱，司马昱即日即位为帝，是为晋简文帝，改元咸安。桓温及后就写了讲辞，打算向司马昱陈述自己废立的本意，但司马昱每接见他都不停流泪，如此令桓温恐惧，居然不能说一句话。司马昱的哥哥武陵王司马晞有军事才干，被桓