Det nye fengselet ble konstruert for å være et « architecture terrible» med den hensikt å være avskrekkende og motvirke kriminalitet. Bygningen ble reist rundt en sentral gårdsplass og delt i to seksjoner: Et område for fattige fanger, «Common» og et område, «State area», for de som hadde råd til å betale for mer komfortable bekvemmeligheter. Hver seksjon var igjen inndelt for å huse grove forbrytere og gjeldsfanger hver for seg.