Planer om å utvikle kanalforbindelser mellom elvene forelå tidlig. Det første forslaget til en slik kanal rundt Appalachenes nordlige utløpere kom i 1699, men først i 1798 ble selskapet etablert og forberedelsene igangsatt. Den første seksjonen stod klar i 1819, og hele kanalen ble åpnet den 26. oktober 1825.