刚强率略有节操，西魏恭帝元年（554年），韦孝宽平定江陵有功，朝廷别封韦谌为禳县开国公，后官至使持节，仪同大将军、陵蓬二州刺史，又出任上开府、光州刺史。杨坚担任丞相时，韦谌因为跟随生父韦孝宽平定尉迟迥的功劳，进位柱国，封平桑郡公，历任青州、荆州二州总管，开皇十八年十一月十七日（598年12月20日）在荆州总管任内去世，谥号静。青州市驼山第3窟佛像前题记有“大像主青州总管柱国平桑公”，阎文儒认为这就是韦谌在青州供养的佛像。