随部队参加了南昌起义，兵败所部溃散，逃亡途中因为饿的受不了，在江西一个招兵站当了驻赣的朱培德滇军第9军的杨如轩第27师的79团1营士兵。1928年2月18日宁冈县新城战斗中，孤军深入的杨如轩第27师第79团第1营被突袭歼灭，谭甫仁被俘后会唱《国际歌》，陈士榘告诉了东江起义领导人朱云卿。朱云卿说这是一个红色苗子。担任工农革命军第四军士兵委员会干事。1928年5月重新入党，1929年即升任红四军第31团第1营党委干事。1930年初任红十二军连指导员。1930年底任红12军36师108团政委。红一军团第一师政治部