3岁由贺龙出资送入常德湖南省立第二师范学校附属小学就读。后因贺龙参加北伐离湘，他失去资助，遂辍学回乡。1926年本县高小毕业，参加了农民运动和工人武装斗争。后娶贺龙二姐贺戊姑的女儿肖庚庚为妻。抗战时期误以为肖庚庚在家乡已死，廖又娶了杨白琳为妻。杨白琳是杨尚昆的妹妹。廖汉生1929年参加桑植县农民协会和县苏维埃的工作，长期在湘鄂边苏区进行游击斗争。1930年红军主力东下洪湖，他随贺民英游击队留在湘鄂边苏区，一直坚持到红军主力重返湘鄂边。1933年5月任鹤峰县第四游击大队副大队长。6月，调到红三军军部任书记