31 Mayıs 1882'de, aynı binada bir çocuk yuvası (Almanca: Kindergarten) da faaliyet göstermeye başladı. 10 Temmuz 1894'te gerçekleşen depremde binanın ağır hasar alması sebebiyle okul için yeni arazi arayışına girişildi. En başta yalnızca Almanca bilenlerin katılımına açıkken, 1879'da okul müdürlüğüne gelen Bericht von Felix Theodor Mühlmann'ın hazırlık kursları açmasıyla Almanca bilmeyen öğrenciler de okula kayıt olmaya başladı. Günümüzde halen kullanılmakta olan lise binasının birinci kısmının inşası, yüksek mimar Kapp von Gültstein ve Osmanlı Bankası Müdürü Wülfing'in maddî ve manevî yardımları ile Haziran 1896'da başladı ve binanın tamamlanmasının ardından, 14 Eylül 1897'de, 15 sınıf ve bir konferans salonunun yer aldığı bu binaya geçiş yapıldı. Okul, ruhsatnamesini ise 9 Ocak 1897'de almıştı. 1898'de şehre gelen Alman İmparatoru II. Wilhelm okulu ziyaret ederken, Almanya'daki liselere verilen diplomayı verme hakkını bu okula da tanıdı ve böylece okul, Almanya dışında bu diplomayı veren ilk eğitim kurumu oldu. Okulun ilk dönemlerinde Alman öğrenciler yoğunlukta iken, 1899'da Türk öğrenci sayısı toplam öğrencilerin %30'una, 1914'te ise %63,5'ine tekabül edecek şekilde artış gösterecekti. 1903'te okul binasının ikinci kısmı beş katlı olarak inşa edildi. 1911'de okulun programı genişletilerek Osmanlı idadileri ile eşdeğer seviyede kabul edildi ve 27 Aralık 1911'de aldığı yeni ruhsatname ile son sınıf sınavı yaparak diploma verme hakkı kazandı. 1893-1903 yıllarında 600 olan öğrenci sayısı, 1916 itibarıyla 1.000'e ulaştı. 1918'de, I. Dünya Savaşı'nın sona ermesinin ardından kapandı ve okul binası, İstanbul'un İşgali'ne dahil olan Fransız askerler tarafından kışla olarak kullanılmaya başlandı. Bu süreçte okula ait envanterler de yok edilmişti.