Die Kleine Festung war von der Anlage her als Wachtposten für die Brücke über die Eger und das Stauwehr des Festungsflutungssystems vorgesehen. Schon kurze Zeit nach ihrer Fertigstellung diente sie als Festungs-Stockhaus, als Militärzuchthaus, und schon bald wurden dort auch politische Gefangene eingesperrt. Im Zusammenhang mit dem griechischen Freiheitskampf kam Alexander Ypsilantis, einer der Führer der Griechen, in den Theresienstädter Kerker. Im Jahre 1865 starb in der Kleinen Festung Anna Rosicka, die Vorkämpferin für das Recht des polnischen Volkes in Galizien und von 1878 bis 1883 wurde Hadschi Loja gefangengehalten, einer der Führer des bosnischen Aufstandes aus dem Jahr 1878.