府贺拔华等五十人以及元定的灵柩。韦冲能言善辩，奉命出使符合上意，屡次升任少御伯下大夫，加上仪同。当时稽胡多次入侵扰乱，韦冲主动请求去安抚招纳他们，因此出任汾州刺史。隋文帝杨坚登基后，征召韦冲兼任散骑常侍，进位开府，赐爵安固县侯。一年多以后，朝廷征发南汾州一千多胡人到北方修筑长城，胡人在途中都逃走了。隋文帝将韦冲找来询问计策，韦冲说：“少数民族的心性，容易反复无常，都是因为州县官员不称职造成的。臣请求以道理来安抚平定他们，可以不用军队就平定。”隋文帝认为有理，于是命令韦冲安抚招纳叛逃的人。一个多月后，逃走