东晋隆安二年（398年），南凉秃发乌孤败梁饥于西平，湟河太守张稠以郡降。第二年（399年），乌孤派其叔素渥镇守湟河，即此郡。义熙十一年（415年），西秦乞伏傉檀攻克北凉湟河郡。刘宋元嘉三年（426年，胡夏承光二年），胡夏国主赫连昌遣将伐西秦，攻其沙州刺史出连虔于湟河，不克。北魏时亦为湟河郡，另说北魏置洮河郡。属鄯州。不久被吐谷浑占领。北周逐吐谷浑，得其地，改置浇河郡，兼置廓州。