年曾师从冯彤云学习古琴，咸丰年间（1851-1861）在四川青城山做道士，同时也教授古琴。他亦尝云游各地，与灌县道士杨紫东、《钱氏十操》之作者钱绶詹等友善。光绪元年（1875），他作为唐彝铭的清客协助后者搜集了数百首琴曲琴谱，并加以考订编修，得《天闻阁琴谱》。此书后来由张孔山的弟子叶介福出资刊发。除去叶介福外，其真传弟子还有顾梅羹的祖父顾玉成。张孔山所传曲目中以七十二滚拂《流水》最为着名，亦是其代表作。1977年管平湖演奏的七十二滚拂《流水》被录在《旅行者金唱片》中。现都江堰市二王庙有张孔山纪念馆。