李贤府任检校长史，邀请韦思谦任李贤的仓曹参军。他对韦思谦说：“您岂是池中之物，但我想委屈您几年照顾此王府。”韦思谦屡获升迁，历任殿中侍御史、侍御史。高宗以他为贤，常召他说话，即使很疲倦也靠着栏杆说上数刻才作罢。又多参与裁决疑难案件。又改任殿中丞，最后任尚书省右司郎中。武候将军田仁会与御史张仁祎有隙，诬陷张仁祎有罪。高宗因此当廷讯问张仁祎，张仁祎因懦弱害怕皇帝，语无伦次。韦思谦说：“我和张仁祎共事有些日子了，知道事情的缘由。张仁祎怯懦，不能为自己辩护。如果田仁会眩惑陛下，弹劾张仁祎犯了非常之罪，那说明我没有对