教学楼处设立青岛市公立女子小学校。南京国民政府接收青岛后改为青岛市立江苏路小学。1940年曾进行校舍扩建。同年，第二日本小学教学楼两侧由日本居留民团出资扩建了两座风格相似的配楼。1941年，青岛第二日本寻常小学校改称青岛第二日本国民学校。1945年8月日本投降，进驻青岛后将日本第二小学校校舍改为兵营使用。1947年冬，作为兵营使用的督署学校新教学楼旧址失火，屋顶及部分楼层大面积烧毁，修复时仅将其改为平顶，未复建屋顶，后来又增建一层，仍为平顶，导致外立面改变较大。1949年6月解放军进驻青岛后，原督署学校