考进士时年纪还小，身材不高。考功郎宋之问说：“韦学士童年有何事业？”韦述对曰：“性好着书。”宋之问说：“本求异才，果得迁、固。”是岁登科。开元三年，玄宗诏左散骑常侍褚无量、秘书监马怀素整理内库书籍，于丽正殿编四部次图书。怀素乃奏用元行冲、齐浣、王珣、吴兢、殷践猷、王惬、韦述、余钦、毋煚、刘彦真、王湾、刘仲等二十六人，同于秘阁详录四部书，五年始成《群书四部录》二百卷。韦述好谱学，撰有《开元谱》二十卷。张说引他任集贤院直学士、起居舍人，与张九龄、许景先、袁晖、赵冬曦、孙逖、王干等文人经常在张说相府中聚会