入洛阳后前往探望司马榦，司马榦闭门不让他进府。司马越驻车等候良久，司马榦才派人道歉送客，他自己在门后偷看。当时没人知道他的意思，有人认为他有疾病，有人认为他隐藏自己。永嘉五年正月庚辰日（311年2月26日）去世，时年八十。当时刘聪攻洛阳，朝廷没有来得及赠谥号。
家庭.有二子，皆为善士：世子司马广早卒；次子司马永太熙年间封安德县公，散骑常侍，永嘉之乱遇难，合门被杀。