十二军在殷祖南山村毛宕湾成立，饶惠谭任军部司号员。1933年春加入中国共产党。任红十六师特务营第三连连长坚持了湘鄂赣苏区三年游击战争。1937年10月，湘鄂赣红军游击队下山集结于湖南平江县嘉义镇。1938年1月，部队改编为新四军第一支队第一团，团长傅秋涛，饶惠谭任侦察参谋。第一团东进苏南的高淳、溧水、江宁县开展抗日游击战争。1941年皖南事变率领特务营突围。1942年2月，饶惠谭在华中党校学习结束后被分配到新四军第二旅第四团（后改称第十六旅第四十八团）任副团长兼参谋长。开创、巩固、发展茅山抗日根据地