编入国民革命军第二方面军总指挥部教导团，后任国民革命军第二十军独立团团部副官、独立团新兵训练处主任。1927年9月，参加湘赣边界秋收起义，任工农革命军第一军第一师第三团第三营第六连第一排排长。三湾改编后，任第三营第八连一排排长，一度代理连长，参与改造袁文才部，年底任工农革命军教导队副队长兼党支部书记。1928年，陈伯钧因手枪走火，打死了自己的战友吕赤，最终被判打手心二十下。井冈山会师后，任红四军一营一连连长，在永新北乡阻击战中身负重伤，后被送回井冈山治疗。1929年1月，陈伯钧留在井冈山养伤，并协助红五军