敏四郎与陆士同期的永田铁山、冈村宁次，以及陆士17期的东条英机，在德国南部的温泉地区巴登-巴登聚会，谋划改革陆军体系为目标的「巴登巴登密约」计划，目的是消除陆军中的萨长派阀，实行“军主政从”，建立“总体战”总动员体制，回国后又与陆士同期的土肥原贤二、板垣征四郎、以及陆士15期的河本大作等佐级军官先后共十九人结成了一个小团体“二叶会”。1922年担任参谋本部员，1923年晋升中佐，成为陆军大学校教官。1926年任参谋本部作战课长，小畑敏四郎与第1部长荒木贞夫、部下铃木率道一起大幅改订以「包囲歼灭战＋短期决