任内有人盗窃官布并放在厕所屋顶上，被官吏发现后怀疑是女工所做而将她收监，司马芝却上奏曹操，认为现在是拿着证物去寻求嫌犯承认，时常有人因受不住拷问而认罪，这就可能会造成误判，建议曹操对这些难寻真相的嫌犯一次宽恕，反更易获得人民的支持和顺从。曹操接纳。后历任甘陵、沛、阳平太守，都有治绩。
曹魏时期.黄初年间任河南尹，在任抑制强者气焰而扶助弱少，即使是官员私下的要求都不允许。好像有宦官希望借与司马芝有亲戚关系的董昭为其传话，但董昭都惧怕司马芝，不帮助他传话。司马芝又勉励下属要好好执法，执