2年11月，任中共上海市委书记处书记兼市委工业生产委员会主任。1962年 11月到1967年1月，任中共上海市委书记处书记。1967年2月到1971年1月，任上海市革命委员会副主任。1971年1月至1977年初，任中共上海市委书记（当时设有第一书记，由张春桥担任）。1977年初到1981年12月，马天水被停职接受审查。在1977年8月召开的中国共产党第十一次全国代表大会的政治报告中，马天水被宣布为“四人帮”的死党。1978年，马天水被开除中国共产党党籍，并以反革命罪遭到正式逮捕。随后，马天水精神失常。1