渊升官担任阁门宣赞舍人、权京畿提举保甲兼权提点刑狱公事。然后跟随刘延庆攻契丹。刘延庆重兵坚壁在卢沟桥之南，派遣王渊等数千人保护饷道，战败为敌人擒获。随后逃归，因为出塞转任武功大夫、果州团练使。又跟随杨惟忠、辛兴宗击破群盗高托山等，转任拱卫大夫、宁州观察使。靖康元年（1126年），为真定府总管，随即升任都统制。吴湛据赵州叛宋，被王渊讨平。金国军队攻打汴京，河东、北宣抚使范讷率领勤王大军屯守雍丘，以王渊为先锋。不久以所部归附康王府。第二年，张邦昌被金朝立为皇帝，康王赵构抵达济州，命王渊率领三千人入卫