怀珠、李平书、叶佳棠、姚文枏、莫钖纶等五位士绅，向上海道台请求设立该组织，获得道台赞同。于是在该年11月正式成立。其组织包括两部分，一是负责决议的议会，以及负责执行的参事会。议会有33个议员，包括议长一人，成员由知县从各产业的会馆、公所代表、各善堂、书院的董事中选出。上海城厢内外总工程局的设立，代表上海绅商从晚清以来实际参与各种市政事务，转变为由政府认可的公共权力。1909年1月，清朝通过了相关法规《城镇乡地方自治章程》，上海城厢内外总工程局于是按规定改组为上海城自治公所，但主要的组织和成员变化