Idéen om ICW stammer fra finansminister Albert Gallatin, som i 1808 foreslo et system av kanaler som skulle koble Boston havn med Brownsville havn. Kongressen avviste den fullstendige planen, men i løpet av de følgende årtier gjennomførte U.S. Army Corps of Engineers en rekke undersøkelser, og konstruksjonen begynte på ulike seksjoner. Private investeringer spilte også en rolle i utviklingen.