Fortet ble nedlagt i 1933. Da begynte den endelige ombyggingen til en straffeanstalt, og den 1. januar 1934 ble Alcatraz omgjort til føderalt fengsel. Det som gjorde det særs velegnet var det iskalde vannet og de lumske strømforholdene. Dermed ble et ideelt sted for folk det var knyttet stor rømningsfare til. Alcatraz var i funksjon som høysikkerhetsfengsel fram til 1963. Blant berømte innsatte var Al Capone (1934–39), Robert Stroud (1942–59), Machine Gun Kelly (1934–51) og Alvin Karpis (1936–62).