伦第三子。300年四月，赵王司马伦自任持节都督、都督中外诸军事，相国、侍中，模仿当年晋宣帝、晋文帝辅佐曹魏时所为。让他的第三子司马虔为黄门郎，封为汝阴王。八月，司马伦升任司马虔为中军将军、领右卫将军。司马虔为侍中，在门下省，密要壮士，约以富贵。晋惠帝派伏胤手拿白虎幡，为司马伦和淮南王司马允解斗。原来伏胤和司马虔是很要好，司马虔要求伏胤帮他父亲司马伦，于是伏胤杀了司马允。301年正月初十，司马伦称帝，司马虔担任侍中、大将军领军，封为广平王，以顾荣为长史。司马伦四个儿子：司马荂浅薄鄙陋，司马馥、司马虔暗