任中国人民解放军总后勤部基建营房部办公室主任、营房土地管理局局长，总后勤部基建营房部副部长。2007年6月任总后勤部基建营房部部长，全军绿化委员会办公室主任、全军房改办公室主任等职。2009年12月至2012年任解放军总后勤部副部长。2003年7月晋升为少将军衔，2011年晋升为中将军衔。2012年因涉贪被查。就谷俊山涉嫌贪污、受贿、挪用公款、滥用职权犯罪一案，中国人民解放军军事检察院于2014年3月31日向中国人民解放军军事法院提起公诉。2015年8月10日，中国人民解放军军事法院认定谷俊山犯贪污罪、受贿