江宁长寿寺入僧籍。后至青山幽栖寺，从学于牛头五祖智威，受胜法。玄素刻苦修行，安于贫贱，个性温和，被称为婴儿行菩萨。开元年间，至京口，受郡牧韦铣所请，住鹤林寺。天宝11年（752年）去世，年八十五岁。
弟子.弟子有吴中法镜、径山法钦、吴兴法海等人。
禅风.玄素的禅风非常简默，强调「道惟心通，不在言通」，重视实地修行；他同时也秉持了初祖法融慈悲柔忍的宗风。牛头宗至六祖慧忠、玄素时，宗门大盛，与神秀北宗、惠能南宗，并列为禅宗三大宗派。