Kanalen starter sørøst i byen. Her møter Kromme Rijn (det opprinnelige hovedløpet til Rhinen) og Vaartse Rijn (en kanal fra middelalderen som forbandt Utrecht med elva Lek, det nyere hovedløpet til Rhinen) den originale befestningen rundt byen, og Oudegracht går derfra inn til sentrum. Deler av Oudegracht følger det opprinnelige elveløpet til Rhinen, men det er noe uenighet om hvilke deler. Den nordre delen er sannsynligvis en tidlig kanal (rundt år 1000) som forbandt Rhinen med elva Vecht. Den søndre delen ble påbegynt i 1122, etter at nivået til Rhinen i Utrecht sank som følge av den nye demningen i Wijk bij Duurstede. Den utgravde massen ble brukt til å forhøye kanalsidene, for å redusere risikoen for flom.