《武家事记》、《兵法问答》等书，在日本被称为「国人道德的权威，武士道精神的真谛」。
经历.出生于陆奥国（后来的岩代国）会津（今 福岛县会津若松市）。1628年（宽永5年）、6岁离开江户。1630年（宽永7年）9岁之时拜入大学头林罗山门下学习朱子学，15岁开始在小幡景宪和北条氏长处学习兵学、在广田坦斋处学习神道，此外还学习歌学等各种各样的学问。1656年着《武教小学》、《武教要録》、《武教全书》，开创了山鹿流兵学。脍炙人口的“山鹿流之阵太鼓”也是从山鹿素行的兵学中衍生出的。166