全国教育問題協議会
かつて日教組で活動していた際には、右派の現代教育労働運動研究会(現教研)の中心人物の一人。現教研出身の田中一郎委員長が落選中の西岡武夫を激励したことを切っ掛けとして日教組が内紛状態に陥った際には、監査委員として左派の批判を封じる役回りを演じた。その後土井たか子率いる社会党のブームによって、国政に転進。党内でも改革派として民社党や社会民主連合さらには新生党などとの連携を目指すが、党内主流と乖離し脱党。その後新進党に参加するが公認争いから離党し、無所属で出馬するものの落選。
ゆとり教育やジェンダーフリー教育など日教組の主張に真っ向から反対している。日本文化チャンネル桜に出演。映画「南京の真実」の賛同者。
山梨県教職員組合(山教組)と政治団体の山梨県民主教育政治連盟(県政連)が民主党の輿石東参院幹事長支援のため教員から組織的に選挙資金を集めていた問題で、2005年2月、政治資金規正法違反(虚偽記載)の罪で県政連会長ら3人を山梨県警に刑事告発したメンバーの1人でもある。但し、山教組はそもそも田中委員長の出身母体でもあるなど日教組内でも右派の有力な本拠でもあり、小林もかつてはその擁護に回った一人でもあった。
2012年9月に行われた自由民主党総裁選挙の際は、「安倍晋三総理大臣を求める民間人有志の会」発起人に名を連ねた。
選択的夫婦別姓制度の導入に反対している。2016年のアンケートでも「反対」と回答。山谷自身は政治・言論活動で旧姓を通称使用として使っている。
2000年の衆議院選挙では民主党が公約とした選択的夫婦別姓を導入する民法改正を自身の公約にも掲げており、同年9月にはその民法改正案の推進を求める申し入れに署名していた。
2009年の民主党政権時代の選択的夫婦別姓案には反対しており、2010年11月には、参議院予算委員会において、「選択的夫婦別姓制度を含む民法改正は家族解体法案。いま守るべきは家族だ」などと主張している。
2021年1月30日、山谷ら自民党国会議員有志50人は、47都道府県議会議長のうち同党所属の約40人に、選択的夫婦別姓の導入に賛同する意見書を採択しないよう求める文書を郵送した。地方議員や市民団体は、地方議会の独立性を脅かす行為だとして山谷らを批判した。