金山在公元前4000年左右成陆，新石器时代时期有人开始在此居住。
近代.1862年5月，太平军与淮军清军绿营及法军海军中将卜洛德率领法军2500名联军，于金山展开激烈争夺战，卜洛德于某日午后作战身亡，慈禧太后赠紫貂皮并追晋升清军提督。
现代.1937年9月，日军侵华参加淞沪战役增援部队海军陆战队师团自此登陆。1958年，金山县与川沙县、青浦县、南滙县、松江县、奉贤县、崇明县由江苏省划归上海市。1997年5月12日，经国务院批准，原金山县和中石化上海