前身，就完整的学校而言，据考证可以追溯到清朝左翼宗学。左翼宗学与右翼宗学（现北京三中）一并，始建于清雍正二年闰四月初五（1724年5月27日）。左翼宗学系清镶白旗子弟学校，其确切校址是今东四南大街（东四十字路东侧至灯市东口）马路东侧的街面上。1905年戊戌变法，左翼宗学改建为左翼八旗第五初等小学堂。1910年3月，改为左翼八旗中学堂。
中华民国时期.中华民国建立后，即1912年改为京师公立第二中学校，后又改名为北平市立第二中学、北京市立第二中学。1910年至1936年校址移至史家胡