韦氏郧公房，北周大司空、郧国公韦孝宽的玄孙，北周京兆尹韦总的曾孙，韦巨源祖父韦匡伯袭封韦孝宽的爵位郧国公，隋朝时改封舒国公。韦巨源父韦思仁在唐朝年间官居尚衣奉御。
武则天年间.武则天年间，韦巨源累迁司宾少卿，转司府卿、文昌右丞。长寿二年（693年）在文昌左丞（《旧唐书·则天皇后纪》《新唐书·则天皇后纪》仍作文昌右丞）任上被授同凤阁鸾台平章事，为实质宰相。三年（694年），转夏官侍郎，仍同平章事。韦巨源有吏才，谨慎复查省内文案并予以纠正，虽然为下属所怨，还是纠正了他们的不少错误。