父亲高密王爵位。晋惠帝元康年间，司马略与华恆等充任晋惠帝太子司马遹的宾友。后司马略在中央历任散骑黄门侍郎、散骑常侍、秘书监；又外派为安南将军、持节、都督沔南诸军事；后升迁为安北将军、都督青州诸军事。在此期间，司马略赶走青州刺史程牧，亲自兼任青州刺史。永兴年间，㡉令刘根在东莱起兵，煽动百姓，起义人数达到数万，并进攻司马略所在的临淄。司马略被迫撤退到聊城。晋怀帝即位后，司马略升迁为使持节、都督荆州诸军事、征南大将军、开府仪同三司。后来京兆流民王逌与叟人郝洛聚集数千人造反，并驻扎于冠军。司马略派遣参军