Della Biblioteca originale, che inizialmente occupava una sola stanza, si hanno testimonianze fin dal 1506. Non era comunque strettamente dedicata alla lettura, in quanto veniva utilizzata dagli avvocati anche per mangiare e bere, e, negli anni successivi vi si svolgevano anche dei dibattiti. Nel 1607 venne aggiunta da Edward Coke una seconda stanza, alla quale donò un anno dopo una copia della sua opera "Reports. "La Biblioteca di Inner Temple era di gran lunga la biblioteca più fornita rispetto alle altre presenti nell'Inns of Court, e "pose questo posto all'avanguardia rispetto alle altre società". La Biblioteca rifiutò nel 1654, di accettare i manoscritti di John Selden, dato che era probabile che le dimensioni della collezione era tale che avrebbe richiesto la costruzione di un ulteriore edificio; ad ogni modo, tale rifiuto fu considerata "la più grande perdita che la Biblioteca dell'Inner Temple abbia da sempre sostenuto". La Biblioteca venne completamente distrutta nel Grande incendio di Londra, ma ricostruita verso la fine dell'anno 1668. Un secondo incendio di minore portata, nel 1679, richiese il sacrificio di buona parte della biblioteca allo scopo di salvare le Hall.