1967年2月起田凤山先后在肇源县革委会文教组、政工组任干事，政工组副组長，政治部副主任，宣传组组長；这段时间受到肇源县委书记万力的赏识并作为青年干部培养，于1970年3月加入中国共产党，1973年7月，田凤山担任城郊公社党委书记、革委会主任，在农业及农田基本建设工作中初试锋芒，1977年12月被提拔为中共肇源县委常委、革委会副主任，县委副书记、副县长，1981年曾在沈阳农学院进修半年。1983年8月升任为中共肇州县委副书记、县长，在此期间在工作能力上展露手脚，受到当时省委主要领导的青睐并成为第三梯队的后备干部，从此入升迁的快车道。1984年12月，田凤山被提拔为黑龙江省绥化地委委員、行署副专員。1987年2月任绥化地委副书记、地区行署专员，1988年2月，田凤山出任牡丹江市委书记，一年以后，1989年4月，即被提拔为黑龙江省副省长；1991年8月出任中共黑龙江省委常委、哈尔滨市委书记；1992年10月至1997年9月，当选为中共中央候补委员。1994年5月晋升中共黑龙江省委副书记，并出任代理省长，1995年2月正式当选黑龙江省省长。1997年9月至2004年9月任中共中央委員；在1998年嫩江、松花江抗洪救灾中，田凤山坚持在第一线指挥抢险，因出色的组织协调能力，受到中共最高层的赏识。1999年12月，田凤山调中央，接替周永康出任国土资源部党组书记。2003年3月17日，中华人民共和国国家主席胡锦涛发布第二号中华人民共和国主席令，根据中华人民共和国第十届全国人民代表大会第一次会议的决定，田凤山被任命为国土资源部部长。2003年10月28日，被免去部长职位。