到了公元第六世纪末期和第七世纪初期，隋朝为了用兵和沟通南北漕运，先后修建了山阳渎、通济渠、永济渠，最后又开通了江南运河，形成了全国的运河系统，奠定了大运河的基础。但是，这样大规模的水利建设工程，是不能一下子兴建完成，而是分期、分段建设成功的。有的地方，还是利用前代运河的故道，而加以拓宽、筑直，并把各段连接起来。现在按照时代先后，叙述如下：

一、山阳渎　公元587年（隋文帝开皇七年），隋将兴兵伐陈，为了运兵运粮方便，从山阳（今江苏淮安）到江都，开了一条运河，叫做山阳渎，沟通淮河和长江，大体上用的是邗沟故道。到了隋炀帝时代，在发动通济渠工程之后，同时又征发淮南民工十余万，把山阳渎拓宽，并加以筑直。

二、通济渠　公元605年（隋炀帝大业元年），开通济渠。《隋书》卷三《炀帝纪》：

大业元年三月辛亥，发河南诸郡男女百余万，开通济渠，自西苑（在洛阳西郊）引谷、洛水达于河；自板渚引河通于淮。

这一条通济渠，实际上是利用的汴水的水源，而加以取直。汴水本来从河南汜水县附近东南流，合泗水而入于淮河。从古以来，是黄、淮之间航运要道。南北朝时代，汴、淮通运，未尝断绝。公元587年（隋开皇七年），命梁睿在河阴县西20里增筑“汉古堰”，遏黄河之水，引入汴水，名叫“汴口堰”，又叫“梁公堰”，这是黄河和汴水沟通的开始。公元605年（隋大业元年），又发河南、淮北诸郡的民工，前后达百余万人，从板渚引黄河入汴，更从大梁（即河南开封）之东，引汴达淮，名叫“通济渠”，又叫做“御河”，这是黄河、汴水、淮河三条河流沟通的开始。通济渠广40步，两旁皆筑“御道”，并且遍植杨柳。这一条通济渠，是牺牲无数民工的生命筑成的。隋炀帝开运河的目的，只为了更多地榨取江、淮一带人民的财富，并更方便地到江南去玩乐；但是劳动人民伟大的创造，却为后代开万世的幸福。

但是必须加以说明的是，这一条运河，从汴口以至长江（包括通济渠和山阳渎），都是半利用自然河流、半运用人工所开成的，隋炀帝只浚广故道，加以连接，并非完全新创。从前的历史上记载不很明白，遂致引起误会。其实前人也有见到这一点的，往往著论加以纠正。如宋乐史《太平寰宇记》写道：

大业元年，以汴水迂曲，回复稍难，自大梁城西南凿渠，引汴水入。

宋苏轼《书传》写道：

自淮、泗入河，必道于汴，世谓炀帝始通汴入泗，……又足以见秦、汉、魏、晋皆有此水道，非炀帝创开也。

程大昌《禹贡山川地理图》（下）也说道：

隋汴受河在板城渚口，而板渚之在《水经》，古来自有分水故道，亦非炀帝之所创为也。

查通济渠的开工，是在大业元年三月二十一日辛亥，而到了这一年八月十五日壬寅，炀帝已经开始利用这条运河，坐着龙舟到了扬州，前后不过171天，要是完全平地开河，照时间和当时技术水平计算，决不能完工，这是一个有力的证明。

三、永济渠　公元608年（隋大业四年），开永济渠。《隋书》卷三《炀帝纪》：

四年春正月乙巳，诏发河北诸郡男女百余万，开永济渠，引沁水，南达于河，北通涿郡。

这条运河北起涿郡（隋代的涿郡治蓟，在今北京城西南），南通黄河，是隋朝运河系统北面的干渠。这条运河开通以后，便可以由江都乘船直达涿郡，所以公元611年（隋大业七年），炀帝便从江都坐了龙舟，由通济渠转永济渠，一直到了涿郡。

实际上这条永济渠，也是大部分利用了自然河流。这一条河就是今天的卫河，在“引黄济卫”以后，天津的轮船可以南下直达新乡。《隋书》上说“引沁水南达于河，北通涿郡”，实际上沁水本是黄河的一条支流，在河南武陟县流入黄河，用不着再引，隋炀帝不过是凿通沁水的上游，使它分流入通济渠，东北与清、淇二水相接，再东北流入白沟。所经过的地方，有内黄、大名、临清、清河、武城、德州市、吴桥、东光、沧县、青县，以至天津以东入海。其中从天津以南至临清一段，即是现在大运河的北段；从临清到内黄以南一段，即是现在的卫河。这一条运河，一直维持到元朝，还叫做“御河”。到了明代，沁水和卫水，仍时通时塞，这正是隋朝所开永济渠留下来的遗迹。

四、江南运河　公元610年（隋大业六年），开江南运河。这一件重要事实，不载于《隋书》及《北史》“本纪”，但普通江南方志，却都引证这一件史事。例如清嘉庆《丹徒县志》卷二写道：

隋大业六年（公元六一○年），敕穿江南河，自京口（今镇江）至余杭八百余里，广十余丈，使可通龙舟。

这一条江南运河，也不一定创始自隋；大概在东晋时代（公元317—419年），即已开始通漕。《舆地志》里说晋元帝的儿子司马裒镇守广陵，运粮出京口，因为水浅，奏请在丁卯港立埭。《齐书·地理志》也说“丹徒水道，入通吴（苏州）、会（绍兴）”。可见这条运河，由来已久，到了隋炀帝的时候，不过加宽加深罢了。

经过以上好几次的水利工程，经过上百万民工的辛勤劳动，造成了一个完整的运河系统，使海河、黄河、淮河、长江、钱塘江五大水系连成一片。虽然这些运河有的是利用自然河流，有的是利用前代运河遗迹加以拓宽，但是这些自然河流和人工运河连接起来，造成了一个完整的系统，北通涿郡（北京），西达洛阳，南至杭州，却不能不说是隋代劳动人民伟大的贡献。隋炀帝大兴水利，或者出于用兵（山阳渎），或者出于游幸私意（通济渠），其本意并不在乎利民，却为后世奠定了大运河的基础，便利了南北的航运交通，这完全是他所始料不及的。 OB4ctuGbdN0ShtZ68+YjPjE/fl9mcW2qYF/v9Bj+BgQ6mvuw+XpCvgaxYZeo8xQ0