A park területén egykor cölöperőd állt, ami a várat védte, megakadályozta az ellenséges hajók kikötését a területen. Erre laktak és dolgoztak az esztergomi halászok, molnárok, tutajosok. Egykor a park keleti végében húzódó, középkori várfal tövében folyt a Duna. A Veprech-torony Duna felőli oldalán Szulejmán, török nyelven írt emléktáblát helyezett el 1543-as diadalának emlékére. Ez máig látható a falban. Az évszázadok alatt, a Duna medre jelentősen változott, és a második világháború után 1,5-2 méterrel feltöltötték a partszakaszt. Így a várfal harmada föld alá került, kialakult a park mai formája. Az 1990-es években épült a park nyugati, Duna-parti oldalán a Búbánatvölgybe vezető bicikliút, amit eredetileg Pilismarótig terveztek. Délkeleti oldalát a Prímási palota uralja, aminek a kertje néz a park felé. A déli végén, a Kossuth híd hídfőjénél Erzsébet magyar királyné bronz szobra áll. A parkban található a Sobieski-emlékmű, ami a párkányi csatában győztes Sobieski János lengyel királynak állít emléket.