局在炮队营原址建造青岛中学新校舍，由青岛民政署土木课建筑师、日本建筑学会正员三上贞设计，华商公和兴工程局承建，1920年3月5日开工，1921年6月21日建成，同月末学校迁入新址，7月，寄宿公寓建成迁入。校舍工程共耗资228000日元。1922年12月北洋政府收回青岛后，该校改称青岛日本中学校，改由青岛日本居留民团承办。
抗战之后.1945年8月日本投降后，青岛日本中学校解散，日本中学校舍及其北侧的原国立山东大学校舍被同年10月进驻青岛的占用。1946年，国立山大校长赵太侔筹备复校