是西汉宗室，是汉景帝刘启的后代、汉光武帝刘秀的族兄。祖父为苍梧太守刘利，父刘子张，母何氏。
生平.刘玄生年不详。起初，刘玄的弟弟被人杀害，他便结交宾客准备报仇，可不久之后宾客犯罪，刘玄便跑到平阳躲避官府的追捕。官吏抓走他的父亲刘子张，后来刘玄诈死，让人把他的灵柩运回舂陵，官吏才释放了他的父亲。随后刘玄便逃跑藏匿起来。新莽天凤四年（17年），南方发生饥荒，百姓只得到沼泽中挖荸荠野菜度日。新市人王匡、王凤带领马武、王常、成丹等人起义。他们藏身绿林山中，不久队伍就发展到五万多人。