旧日本陸軍では、参謀総長（陸軍三長官）が長を務める参謀本部を筆頭に、部隊では参謀部は旅団以上に設置された（総司令部を擁する総軍参謀部の長は「総参謀長」と、方面軍以下の参謀部の長は「参謀長」と称した）。参謀は未来の高級指揮官を教育する参謀本部管轄の軍学校である陸軍大学校にて養成していた。著名な参謀ないし参謀経験者としては、日露戦争時の満州軍総参謀長児玉源太郎、シベリア単騎横断実地調査を行った福島安正、柳条湖事件の関東軍作戦主任参謀石原莞爾、ノモンハン事件などにおける辻政信、太平洋戦争開戦時の参謀総長杉山元、香港攻略戦時の第23軍参謀長栗林忠道、大本営陸軍部作戦参謀瀬島龍三、沖縄戦における第32軍高級参謀八原博通、その高い分析能力からアメリカ軍の侵攻パターンを的確に予測し「マッカーサー参謀」と称された情報参謀堀栄三などが知られている。