来自海泊河水源地的淡水泵入贮水池中，自贮水池向城区供应淡水。观象山因此被称为“水塔山”（，有时译为“水道山”）。因邻近督署医院，部分早期明信片称其为“医院山”（Lazarethberg）。《胶澳租借地发展备忘录》则直接称其为“水山”（）。1905年，青岛观象台迁至该山丘上。1912年，青岛观象台新办公楼建成，此山才有了“观象山”（）之称。1914年，日军占领青岛后，更名为“测候山”。1922年，中国接收青岛后，胶澳商埠督办公署于次年将此山定名为观象山，1931年在山顶建成穹顶天文观测室，1932年辟为公园。