千余人起事，号「平林军」，和王匡的新市军相唿应。刘玄在安集掾加入平林军。刘縯率舂陵军与平林军、新市军联合，进军南阳郡宛城，联军在南阳郡育阳县小长安聚，和新朝前队大夫（新制南阳郡太守）甄阜、属正（新制都尉）梁丘赐作战，联军战败。地皇四年（23年）正月，王常率下江军与他们合流，在泚水之战击败甄阜、梁丘赐。联军诸将讨论拥立天子，南阳士大夫（舂陵诸将）和王常主张拥立刘縯，廖湛和其他诸将主张拥立平林军出身刘玄。结果，刘縯为了避免分裂，把帝位让给刘玄。更始元年（23年）二月、刘玄即位为更始帝，廖湛被任命为执金吾