今洛阳西郊引谷水、洛水入黄河。东段自荥阳汜水镇东北开始，循夫差所开运河故道，引黄河经汴水、泗水达淮河，经过汴州（今河南开封）、宋州（今河南商丘）、宿州（今安徽宿州）、泗州（今安徽泗县）等城市。同年又发淮南民十余万人再度修筑山阳渎，整治取直，中间不再绕道射阳湖以直达长江。为了将隋代江南的税粮食和纺织品运到中都城，610年开筑江南运河，自京口（江苏镇江）引大江经吴州（江苏苏州）至余杭（今浙江杭州）的钱塘江。长八百余里，广十余丈。至此完成运河南段，隋炀帝还准备渡浙江游会稽山。由于东征高句丽需要运输庞大物资，大业四