Açılış sırasında kütüphanenin boş raflarına “"Naima tarihi"” ciltleri konuldu. Daha sonra koleksiyon Beyazıt Camii’nden getirilen kitaplar, civar tekke ve zaviyelerden toplananlar, satın alman ve bağış yoluyla sağlanan kitaplarla zenginleştirildi. Kuruluşunun üçüncü yılında koleksiyon, 4164 kitap büyüklüğüne erişti. Kütüphanenin başına atanan ilk yönetici Tahsin Efendi idi. Kütüphanenin ilk yıllarında kütüphaneye büyük ilgi gösterilmekte idi. Saray mensupları, Cuma namazı dönüşünde kendilerine ayrılmış koltuklarda okurlardı Birbirini takip eden Balkan Savaşları, I. Dünya Savaşı ve Türk Kurtuluş Savaşı yıllarında kütüphane bir depo durumuna geldi.