诸将军开府，府置司马一人，地位仅次于将军，掌本府军事，相当于后世的参谋长。司马昭即以山涛为行军司马，胡三省注称：“行军司马之号始此。”。宋制，司马铜印墨绶，绛朝服，武冠。至隋时废州府之任，不置司马，改置治中。
地方官名.唐朝，州设司马，作为刺史的佐官，实际无职掌，多用于处置贬官；着名诗人白居易即曾因得罪权贵，被贬为江州（今江西省九江市）司马，并在元和十一年写下《琵琶行》这篇千古名作，其诗云：“同是天涯沦落人，相逢何必曾相识”、“坐中泣下谁最多？江州司马青衫湿”。明清士大夫雅