兼任上海市副市长，1991年当选市长。1994年黄菊出任中共上海市委书记，并进入中共中央政治局。黄菊主政上海期间，第一机电工业局出身的干部受到黄菊的特别栽培，其中就有他的接班人陈良宇。2002年10月22日，中共中央宣布黄菊调往中央工作，陈良宇出任上海市委书记。至此，黄菊担任上海市主要领导职务长达十一年。半个多月后，在11月16日召开的中共十六届一中全会上，黄菊任当选中共中央政治局常委（排名第六）。2003年3月17日，中华人民共和国国家主席胡锦涛发布第二号中华人民共和国主席令，根据中华人民共和国第十届全国