郡置汉阳郡。隋文帝开皇三年（583年），废天水郡，其地属秦州。
隋代天水郡.隋炀帝大业三年（607年），改秦州为天水郡。天水郡领六县：上邽、冀城、清水、秦岭、陇城、成纪。唐高祖武德二年（619年），平薛举，改天水郡为秦州。唐玄宗天宝元年（742年），改秦州为天水郡，治所由成纪县之敬亲川迁移到上邽县。天水郡领五县：上邽、成纪、伏羌、陇城、清水。唐肃宗干元元年（758年），复改天水郡为秦州。