HMP Kingston är ett av sex fängelser i England som ska stängas av justitieministeriet (MoJ) som en del av nedskärningarna.
Poliser lämnade fängelset, genom att marschera ut genom grinden tillsammans, vid middagstid. Vänner och familj togs sedan på en rundtur i byggnaderna och tomterna.
Kingston hade omkring 800 fångar i kategori C med obestämda domar. Regeringen sade stängningarna skulle spara 63 miljoner pund per år i löpande kostnader.
MoJ sade stängningarna skulle resultera i förlust av 2.600 platser från "gamla och oekonomiska" fängelser.
Den planerar att bygga ett nytt 2000-tals superfängelse i London, nordvästra England eller norra Wales.
Fackföreningar har tidigare krävt upp till 300 arbetstillfällen som skulle kunna gå förlorade vid stängningen av HMP Kingston och Camp Hill på Isle of Wight.
En del personal från Kingston har redan omplacerats till andra platser.
Lou Ralls, ordförande för Portsmouth-kontoret i Fängelsevårdsföreningen, sade att personalen var "buoyant" trots stängningen.
Han sade: " Tillkännagivandet kom som en chock som vi betraktade oss själva som ett högpresterande fängelse. Vi känner en ficka av excellens för branschen och staden har gått förlorad.
"Omkring 8 % av våra medlemmar har fått frivillig uppsägning.
"Inga uppsägningar har skett och 100 % av de anställda som ville flytta har fått sitt första eller andra val."
Ett fängelse i Portsmouth som byggdes 1877 har stängt sina dörrar för sista gången.