早年担任洛阳令。熹平三年（174年），京兆尹司马芳推荐曹操为洛阳北部尉。初平元年（190年），董卓将汉献帝等人迁都长安，自己则留守洛阳，时任治书御史的司马芳以为四方将乱，让长子司马朗带领家族回故乡温县。后以司马芳年老为由，转拜骑都尉。后与河南潘勖任尚书左、右丞。建安二十一年（216年），曹操封为魏王，邀司马芳喝酒。建安二十四年（219年）逝世，享年七十一岁。
魏晋时期.魏正始三年（242年）春，朝廷为司马芳追封舞阳成侯。晋泰始二年（266年），曾孙司马炎建立