诬陷联络中共，而被遣散出部队，朱培德介绍他到广州任职。1929年4月，罗炳辉任江西吉安县靖卫大队大队长，此时中共中央派滇籍中共党员赵醒吾到吉安对他做争取工作；同年7月，在刘士奇、蔡申熙、赵醒吾主持下，秘密加入中国共产党。10月15日，率领靖卫大队加入中国工农红军；同年12月，与彭德怀、黄公略在遂川会师。1930年1月，罗炳辉被任命为红六军第二旅旅长；同年2月，率部击溃国军唐云山旅。随后，率部转战于赣江、武夷山之间。6月，红军在汀州整编，罗炳辉任红十二军副军长、代理军长；同年8月，率部进抵南昌附近的牛行车