魏文帝曹丕在黄初年间开凿沟通汝、颍二水的讨虏渠,以及沟通洧(今颍水支流)、汝水系的贾侯渠。景初二年(238)开沟通漳水、滹沱水和泒水(今大沙河)的鲁口、白马二渠。正始四年(243)开沟通颍水和汝水的广淮阳、百尺二渠。此外,东晋太和四年(369)桓温北伐前燕,率水军溯泗水至金乡,值大旱,菏、济水断流,命毛穆之开渠三百余里,南接菏水(今山东鱼台附近),北通巨野泽,引汶水入渠,使泗、汶、济三水相连,史称桓公沟。江淮流域船只借助桓公沟可自济水(又称清水)入河,西去陕洛。故义熙十二年(416)刘裕北伐姚秦、元嘉七年(430)宋将到彦之率水军攻魏皆取此水道。淮南和江南地区在魏晋六朝时期也陆续开凿整治了一些运河。破岗渎,三国时,孙吴迁都建业(东晋改称建康),为避长江风涛之险,加强首都与主要经济区太湖流域的联系,于赤乌八年(245)发屯田将士三万人,凿句容中道以通吴(今江苏苏州)、会(今浙江绍兴)舰船,号破岗渎。这条运河起自句容小其(今江苏句容西南),横越高阜,东通云阳西城(今江苏丹阳延陵),与原丹徒水道衔接;西连淮水(今秦淮河),直抵建业城下,沿途修建十四埭用以蓄水。南梁时,因破岗渎每值冬春,行船不便,又在其南另开一条“上容渎”,采取“顶上分流”,沿途筑二十一埭,以改善通航条件。至陈朝,上容渎亦堙,转而更修破岗渎。隋灭陈以后,二渎皆废。破岗、上容渎的开凿,使太湖地区船只一度不需经京口入长江而直至建业。丹徒水道,今江苏镇江至丹阳间的运河。秦朝始凿,初无闸坝设施,地势高仰,河水易于走泄,航行不便。孙吴末年修治丹徒至云阳水道,因杜野(今江苏镇江东)和小辛(今江苏丹阳北)间“皆斩绝陵袭,功力艰辛”而罢。西晋惠帝时,陈敏遏马林溪,引长山八十四溪之水蓄为练湖;东晋元帝时,张闿又建新丰湖,皆为调剂运河水量。