成为文部省在外指定学校。1922年12月北洋政府收回青岛后，该校改称青岛第一日本寻常高等小学校，改由青岛日本居留民团承办。1928年日本出兵山东时日本海军陆战队曾驻扎于该校校舍。1941年，该校根据国民学校令改称青岛第一日本国民学校。1945年日本投降后青岛第一日本国民学校解散。一些资料称创办于1946年的私立胶澳中学曾设于原第一日本小学旧址，而国立山东大学1946年复校后，因原校舍被美军占用，亦曾暂时使用该处校址，胶澳中学与国立山大争夺此处校舍互不相让，最终决定将校舍主体建筑分为两半，北半部分及礼