一带因此日渐形成聚落，并于明代修建天后宫一座。清军于1892年驻防胶澳后，清政府各类公文中直接以“青岛”之名代指驻防地，小青岛的名称后来也因此成为青岛市的命名起源。1897年德军占领青岛后，德国人以之名将其称为“阿考纳岛”（，或拼写为），而舰名来源于吕根岛的。而1900年代的各份青岛手绘中文地图中仍将该岛标注为“青岛”。1904年总督府港务部门在其上建造了一座高12.5米的八角锥形白色大理石灯塔，即今日的小青岛灯塔。1914年日军占领青岛后，以日本海军中将加藤定吉之名改称“加藤岛”。1922年青岛回归