1922年他13岁进入衡阳市南面的水口山铅锌矿做童工，1925年5月在水口山加入中国共青团。1926年，耿飚参与发动矿工参加武装斗争，不久回醴陵组建并率领农民赤卫队参加醴陵暴动和十万农军攻长沙。后于1928年前往浏阳在当地担任游击队队长，同年8月加入中国共产党。1930年9月，耿飚所部被整编入中国工农红军红一军团红三军，耿飚任红三军九师参谋，后又担任师干部教导队队长、作战教育科科长。1931年4月，任九师参谋长，参加赣州战役、漳州战役和水口战役。1933年中央红军再次整编取消军级编制后，耿飚任红一军团二