与“国际义勇军”，即前往伯力加入“远东工人游击队”，训练部队，与国民政府军张学良部作战，协助苏联进攻中国黑龙江海拉尔之役。1930年下半年，叶剑英回国到达上海，与刘伯承等人翻译了苏联红军的步兵战斗条令和政治工作条例等资料。1931年4月，到江西中央革命根据地。此前第二次反围剿战争即将开始，毛泽东建议诱敌深入，而项英反对。叶剑英对此表示支持毛泽东，随即协助指挥第二、三次反围剿战争。11月，任中华苏维埃共和国中央革命军事委员会委员兼总参谋长。11月底，向中革军委提出“建设精干的统帅机关”的建议研究确定中国工