Før Kongstenanlegget ble bygget var det langs muren på Vestre horn på Kongsten fort anlagt et utendørs svømmeanlegg med tre dammer og 10 m stupetårn. Dette anlegget var i sin tid etablert i en eksisterende dam som var rester etter en vanngrav rundt fortet og som også skal ha vært benyttet som vannforsyning for festningsbyen. Anlegget ble dårlig vedlikeholdt med dårlig vannkvalitet. Det nye Kongstenanlegget er blitt en kjærkommen erstatning.