韦洸性格刚强坚毅，有才干，年轻时就擅长骑射，在北周时以直寝上士为起家官，多次从军征伐，屡次升任开府，获赐爵位卫国县公，食邑一千二百户。杨坚担任丞相时，韦洸跟随叔叔韦孝宽在相州击败尉迟迥，以军功拜为柱国，进封襄阳郡公，食邑二千户。当时突厥骚扰边境，皇太子杨勇屯驻咸阳，命令韦洸统帅军队从原州道出兵，与突厥遭遇，击败了他们。韦洸很快出任江陵总管，不久因为母亲患病被征召返回。很快，韦洸在开皇六年正月辛未（586年2月13日）出任安州总管。隋灭陈之战，韦洸兼任行军总管，等到南陈被平定，韦洸出任江州总管，率领步兵