相州教授。被蔡攸推荐，召入担任秘书郎，擢升为右司员外郎。当时三省大吏高官认为身为卿监之人，都在都司上，聂山因为名分未正，所以勐烈抨击。宋徽宗下诏，自今升至朝请大夫为止。后来以直龙图阁为湖南转运使，还京为太府卿、户部侍郎，改任开封尹，再任户部。聂山本来厚结王黼，既而跟随蔡京，被王黼所中伤，罢知德安府。又因为当地人告他，贬为崇信军节度副使，安置衡州。宋钦宗即位，吴敏掌权，因为聂山做事勐厉直率可以帮助自己，于是提升他为显谟阁直学士、知开德府，路上升任兵部侍郎，进升户部尚书，领开封府。聂山遇事奋然不顾，敢于诛杀