隋文帝非常厌恶。隋炀帝即位后，607年，伏允派使者和高昌、突厥一起向隋朝朝贡。
流亡.隋朝大臣裴矩出使西域回来，建议隋炀帝控制西域，首先要消灭吐谷浑。这时，伏允和光化公主的儿子慕容顺正在隋朝交聘，被隋炀帝扣留。608年，裴矩指使铁勒攻击吐谷浑，伏允大败，来到隋朝的西平郡（今青海省乐都），隋炀帝派安德王杨雄出浇河，许公宇文述出西平接应。伏允恐惧宇文述兵强，帅众西逃，宇文述引兵追击，攻克曼头、赤水二城，斩首三千余级，虏获吐谷浑贵族二百，百姓四千。伏允南奔雪山，其故地东西四千里，南北二千