有学识，太和十九年（495年），魏孝文帝元宏分定姓族，对仆射李冲说：“韦彧才智名声很大，可以任命他为奉朝请，让他专心于纯朴的德行，成为能胜任大事的人。”韦彧因此以奉朝请为起家官，广阳王元嘉保奏韦彧为太尉骑兵参军，韦彧因为不是个人喜好而辞官。任城王元澄出任雍州刺史时，任命韦彧为雍州治中，皇帝的使者巡查雍州时，任命韦彧为雍州别驾，督京兆郡，代理州府中的事务。永平元年（508年），韦彧的父亲韦珍生病，韦彧孝顺的侍奉，后因父亲去世而守丧孝。韦彧后被任命为司空中郎，很快转任司徒中郎领司徒掾，又出任大将军中郎，散骑侍郎