对这些难寻真相的嫌犯一次宽恕，反更易获得人民的支持和顺从。曹操接纳。后历任甘陵、沛、阳平太守，都有治绩。
曹魏时期.黄初年间任河南尹，在任抑制强者气焰而扶助弱少，即使是官员私下的要求都不允许。好像有宦官希望借与司马芝有亲戚关系的董昭为其传话，但董昭都惧怕司马芝，不帮助他传话。司马芝又勉励下属要好好执法，执行法令并让君主知道臣属犯下的罪行和自己政令的不足，不要让政事败坏。曹叡继位后赐关内侯。后来，位特进的曹洪的乳母当与临汾公主的仆人拜无涧神而下狱，卞太后因而派黄门吴达到河南府传命