改编后，任第三营第八连一排排长，一度代理连长，参与改造袁文才部，年底任工农革命军教导队副队长兼党支部书记。1928年，陈伯钧因手枪走火，打死了自己的战友吕赤，最终被判打手心二十下。井冈山会师后，任红四军一营一连连长，在永新北乡阻击战中身负重伤，后被送回井冈山治疗。1929年1月，陈伯钧留在井冈山养伤，并协助红五军工作，1月下旬被国军俘虏，押往吉安监狱，五个月后被营救出狱，在赣西特委北路行委担任军事工作。1930年1月，陈伯钧任红六军第一纵队参谋长，在施家边战斗中再次负伤。同年7月，任红二十军参谋长，在吉