兵山东时日本海军陆战队曾驻扎于该校校舍。1941年，该校根据国民学校令改称青岛第一日本国民学校。1945年日本投降后青岛第一日本国民学校解散。一些资料称创办于1946年的私立胶澳中学曾设于原第一日本小学旧址，而国立山东大学1946年复校后，因原校舍被美军占用，亦曾暂时使用该处校址，胶澳中学与国立山大争夺此处校舍互不相让，最终决定将校舍主体建筑分为两半，北半部分及礼堂为胶澳中学所使用，南半部分及德平路部分房舍为国立山大医学院与先修班校址。另有说法称1945年后青岛市立中学因原校舍无法收回而迁至此处，后该处