武汉国民政府成立后上海市的最高行政机关，其筹备工作可回溯至民国15年12月6日为反对孙传芳而成立的上海特别市政府市民公会。1927年3月22日，上海第三次工人武装起义胜利，来自1000多个社会团体的4000余名代表，召开上海市民代表大会，由商界王晓籁、虞洽卿、陈光甫等，国民党白崇禧、钮永建等，共产党罗亦农、汪寿华等，学运领袖林钧，学者杨杏佛等，共十九人组成上海特别市临时市政府，其中中国共产党党员9人，工人代表1人，国民党左派、右派及资产阶级代表共9人。民国16年3月23日，选举产生的临时市政府委员开始办公，