司马芝的能力更胜司马朗。建安十三年（208年），曹操攻下荆州，任命司马芝为菅县县长。当时北方才刚刚安定，吏民很多都不守法度。当时济南郡郡主簿刘节是当地大族，蓄养宾客，外为盗贼，内乱吏治。后来司马芝征召其宾客王同为兵，但在集合时刘节让王同躲起来，还命令督邮向菅县索求士兵，官县官属都无计可施，唯有要求以自己代王同从军；此时司马芝却向济南太守郝光上书告发刘节，郝光向来敬重司马芝，于是下令让刘节代王同从军，青州人因而说司马芝「以郡主簿为兵」。后司马芝迁任广平县令。当时征虏将军刘勋恃着受宠而骄横，而且又是司马芝旧