师范专科学校。1971年加入中国共产党。历任公主岭市农业局副局长，中共梨树县委书记 ，吉林省副省长，中共白城地委副书记、书记，白城地区行署专员，中共吉林省委组织部副部长、部长，中共吉林省委常委；1992年晋升中共吉林省委副书记；1996年8月，转任中共浙江省委副书记。后任全国供销合作总社党组书记。2002年10月，王金山出任安徽省副省长、代省长；并在2003年1月召开的安徽省第十届人民代表大会第一次会议上，当选安徽省省长。2007年11月，升任中共安徽省委书记；次年1月起，兼任安徽省人大常委会主任。