1931年1月，黄克诚任红3军团第4师政治部主任，代理师政委。4月，调任第3师政委兼政治部主任，率部参加中央苏区第二次反围剿作战。7月，率部参加第三次反围剿作战，期间因保护部下免遭肃反以“AB团”为名义杀害而拒绝执行肃反委员会命令，多亏彭德怀直接干预，黄克诚险些被捕遇害。同年12月，任红3军团第1师政委。1932年1月，黄克诚率部参加赣州战役期间，因上级错误指挥，部队陷入重围，黄克诚果断指挥部队抗击并及时转移脱离险境。3月，任红3军团第5军政治部主任，所部编入东路军进入福建作战。7月，率部参加池江及大余战斗。8月，参加水口、乐宜战役。9月，复任第3师政委。10月宁都会议后，因支持毛泽东主张而被降职，调任红3军团政治部宣传部长、组织部长、第5师政治部主任，参加了第四次反围剿作战和东方军入闽作战。1933年11月，任红3军团第4师政委，率部参加第五次反围剿作战。