兵渡过长江讨伐南陈，因为卫公宇文直被南陈将军淳于量击败，韦冲为南陈所俘虏。周武帝宇文邕用钱帛将韦冲赎回。周武帝又再次命令韦冲带着一千匹马出使南陈，去赎回开府贺拔华等五十人以及元定的灵柩。韦冲能言善辩，奉命出使符合上意，屡次升任少御伯下大夫，加上仪同。当时稽胡多次入侵扰乱，韦冲主动请求去安抚招纳他们，因此出任汾州刺史。隋文帝杨坚登基后，征召韦冲兼任散骑常侍，进位开府，赐爵安固县侯。一年多以后，朝廷征发南汾州一千多胡人到北方修筑长城，胡人在途中都逃走了。隋文帝将韦冲找来询问计策，韦冲说：“少数民族的心性，容