取水点就设在水厂所在的黄浦江下游。该水厂于光绪九年（1883年）五月竣工，并成为了上海市最早使用水泥和混凝土的工业建筑。光绪九年六月二十九日（8月1日），该水厂正式开始供水，两江总督李鸿章出席了开闸仪式。该水厂向当时的公共租界、法租界，以及静安寺以东的越界筑路地区供水，并负担了一部分的市政用水，并于以后以后不断扩大供水区域。水厂刚刚重建完成时，水厂的主要设备有2座总容量约合2.79万立方米的间歇式自然沉淀池，4座慢滤池，1座清水池，3台蒸汽锅炉及1座出水间，而所用到的离心泵当中有不少是蒸汽驱动的。除此之外该