突厥强劲的攻势下，唐原单于都护府辖境急剧丢失，突厥降户亦纷纷倒戈、投向突厥一边，都护府徒具空名，仅仅成了一个驻防突厥进攻南下的一个军事据点。垂拱二年（686年），单于大都护被降为镇守使。陈子昂曾于垂拱四年（688年）给武后上的奏文中言道：“国家近者废安北，拔单于，弃龟兹，放疏勒，天下翕然，谓之盛德，所以者何？”圣历元年（698年）突厥默啜可汗更是以和亲为名，向武周索要突厥降户和单于都护府之地。在其强大的军事压力下，武周最终被迫答应了他提出的条件，单于都护府被迫放弃，武周“朔方军与突厥以河为境”。