元朝推翻南宋以後，仍利用隋唐運河舊道轉運漕糧，其路線大致爲：由長江輾轉入淮，逆黃河上達中灤旱站(今河南封丘西南)，陸運180裏至淇門(今河南浚縣西南)，再入御河(今衛河)，水運至大都。因運河河道多有壅塞，水陸轉運頗多不便，而海上運路往往風信失時，又多傾覆。於是，元朝政府着手組織對大運河進行了大規模的治理與修鑿。
至元十三年(1276年)開始修鑿濟州河。至元十七年(1280年)，疏通了通州運河。至元十八年至二十年，由奧魯赤主持引汶水、泗水，從濟州(今山東濟寧)西北到須城安山(今山東東平西南)長150多裏的濟州河開通。漕路由淮河入泗水(今中運河)，經過濟州河北抵安山，出大清河(今黃河下游)，再經東阿、利津入海，然後由海運入直沽(今天津大沽口)轉到大都。後因海口淤沙壅阻，運道不暢，又改由東阿陸運至臨清(今山東臨清南)入御河，水運至大都。至此，元代南北航運除東阿、臨清之間一二百里陸路外，已經大致溝通。
至元二十六年(1289年)，大元朝廷採納壽張縣尹韓仲暉等人建議，開會通河以疏運道。會通河自須城安山西南起，分梁山泊水源北流，經壽張(今山東梁山西北)西北和東昌(今聊城)，至臨清入御河，全長250餘里。此工程歷時6個月，中途建水閘30處，可隨時調整流量。至此，南北航運已全線溝通。
至元二十八年(1291年)，元廷按照郭守敬設計的方案開鑿了通惠河。通惠河導昌平縣白浮村神山泉，通雙塔榆河，引一畝、玉泉諸水入城，匯於積水潭，又東折而南，出文明門(今崇文門)至通州高麗莊入白河。後長164裏，中設水閘21處，大體每十里置一片閘。工程歷時1年。河成之後，漕船可以一直駛入大都城，從此減免了都民陸路輾轉之勞，公私便之;同時還有利於大都的園林建設。
由通州南下至白河北運河北段，上接通惠河，下通大沽河，是南北通航要道，但是，由於所依賴的潞河(白水、榆水、渾水合流)水源不足，河道淺澀，通行不便。至元三十年(1294年)，元世祖忽必烈採納漕運使司建議，又引小渠水入榆水，以增加流量，便利行舟。至元末年，元廷還曾對相當於舊邗溝的揚州運河進行了疏通。揚州運河在滅宋之後逐漸壅塞，雖連年疏通，但收效不夠明顯。至延四年(1317年)方疏浚暢通。至治年間(1321-1323)，又對屬江南運河的鎮江支流進行疏鑿。疏鑿河段自鎮江至常州武進縣呂城壩(今江蘇丹陽東南)，長131裏。疏鑿後河面加闊至5丈(約17米)、底闊3丈(近10米)、深6尺(2米有餘)。同時，還開浚了鎮江運河的重要水源——練湖(今江蘇丹陽北)。
元朝政府陸續修鑿完成的京杭大運河全長3000餘里，北起大都，南達杭州，溝通了海河、黃河、淮河、長江和錢塘江五大流域。元代大運河除對當時的統治集團提供便利外，更重要的是，促進了南北經濟文化的交流，也爲明清運河的暢通以至現代大運河的水運條件奠定了基礎，並且爲北京大都城地位的逐步確立增加了一個重要前提
