La prison est construite en 1197, en retrait de ce qui est maintenant Farringdon Street, sur la rive est de la rivière Fleet (devenue souterraine) qui lui donne son nom. Elle commence à occuper une place particulière comme lieu d'accueil des personnes arrêtées par la "Star Chamber" (Chambre étoilée) et par la suite pour les débiteurs et les personnes emprisonnées pour outrage au tribunal par la "Court of Chancery" (Cour de la chancellerie). En 1381, au cours de la Révolte des paysans elle est détruite par les hommes de Wat Tyler.