运回舂陵，官吏才释放了他的父亲。随后刘玄便逃跑藏匿起来。新莽天凤四年（17年），南方发生饥荒，百姓只得到沼泽中挖荸荠野菜度日。新市人王匡、王凤带领马武、王常、成丹等人起义。他们藏身绿林山中，不久队伍就发展到五万多人。地皇三年（22年）七月，平林人陈牧、廖湛领导千余人起义，号平林兵，以应王匡，正在这里避难的刘玄参加平林军，担任安集掾。地皇四年（23年）正月，绿林军诸部合兵击破新莽将领甄阜、梁丘赐，遂号刘玄为更始将军。二月辛巳（3月11日），后因其为刘姓宗室，遂在淯水边被拥立为帝，大赦天下，建元更始。更