春秋戰國時期的人工運河首先出現在長江、淮河、黃河的下游。有文字記載的第一條跨水系人工運河是溝通長江水系和淮河水系的邗溝,由吳國開鑿於公元前486年,並一直沿用至今。此外,溝通黃河和淮河的鴻溝和汴渠等運河也相繼建成。司馬遷在《史記•河渠書》中概括了這一時期溝通江、淮、河、濟運河工程的盛況。
隋唐時期建都今陝西西安,由人工運河聯接的全國水運交通網,西達西安,北至北京,南抵杭州。
元、明、清三代建都北京,經濟中心則在江浙一帶,因此水運交通的重點也由東西向改變為南北向。其工程關鍵是建設跨越山東地壘的越嶺運河,成就了舉世聞名的京杭運河。京杭運河在此後的五百年裡成為南北水運的交通大動脈。