1656年着《武教小学》、《武教要録》、《武教全书》，开创了山鹿流兵学。脍炙人口的“山鹿流之阵太鼓”也是从山鹿素行的兵学中衍生出的。1665年他批判朱子学对儒家经典的诠释，提出了直接向周公、孔子学习的圣教，着《圣教要录》。书中大肆批判孔子以后的宋儒为异端。此时虽然林罗山已过世，其说仍被奉为幕府官学，且由林罗山子孙主宰。因此山鹿素行被人怨恨，自以为犯下死罪，而向当时担任安房守一职的北条氏长写信道：1666年他被信奉朱子学的会津藩主保科正之流放到播磨国赤穗藩，教导赤穂藩士。元禄赤穗事件中的大石良雄也是其门