春秋吳王夫差十年（公元前486年）開鑿邗溝，從江都（今揚(yáng)州市）邗口至山陽（今淮安市，淮安末口），以通江淮。至戰(zhàn)國時代又先后開鑿了大溝（從今河南原陽縣北引黃河南下，注入今鄭州市以東的圃田澤）和鴻溝，從而把江、淮、河、濟(jì)四水溝通起來。

隋代以東都洛陽為中心，于大業(yè)元年（公元605年）開鑿?fù)��?jì)渠，直接溝通黃河與淮河的交通。并改造邗溝和江南運(yùn)河。大業(yè)三年（公元607年年）又開鑿永濟(jì)渠，北通涿郡，連同公元584年開鑿的廣通渠，形成多枝形運(yùn)河系統(tǒng)。

到元朝時，元定都大都（今北京），必須開鑿運(yùn)河把糧食從南方運(yùn)到北方。為此先后開鑿了三段河道，把原來以洛陽為中心的隋代橫向運(yùn)河，修筑成以大都為中心，南下直達(dá)杭州的縱向大運(yùn)河，此為第三期。至元三十年（公元1293）元代大運(yùn)河全線通航，漕船可由杭州直達(dá)大都，成為今京杭運(yùn)河的前身。