孝杰曾经长期住在吐蕃，知道吐蕃的内情，于是武则天以王孝杰为武威道总管，与阿史那忠节征讨吐蕃。当年冬天，王孝杰击败吐蕃，收复安西四镇。694年，王孝杰在青海湖附近，打败吐蕃大将勃论赞刃和吐蕃拥立的西突厥十姓可汗阿史那俀子。因此王孝杰官拜夏官尚书、同凤阁鸾台三品，封清源县男。之后他在武则天情夫薛怀义的率领下，为瀚海道行军总管，攻打后突厥，但是未遇突厥军，无功而返。695年，为朔方道行军总管再击突厥。次年，吐蕃入侵临洮，他作为肃边道行军大总管，以娄师德为副手，出击吐蕃，交战于素罗汗山（今洮州附近），败于论钦陵