伏稽胡部落的首领，解决军中缺粮的问题；天和三年（568年），王杰任宜州刺史，增邑至三千六百户。天和六年（571年）跟从齐公宇文宪守御齐将斛律明月的进攻，多次担任朝廷攻防战事的重要将领。天和六年（公元571年），王杰与谭公宇文会、雁门公田弘、魏公李晖同拜柱国之位。建德初年，王杰出任泾州总管，他虽然出身于军旅，不熟悉官僚架构及运作，但他每次担任地方官时，都以忠恕之心为原则，因此颇受百姓所敬慕。北周宣帝即位宣政元年九月，王杰与宇文盛、枹罕公辛威、郧国公韦孝宽一同受拜为上柱国。大