約4万年 - 3万3000年前には、斜軸尖頭器を出土した柳沢舘遺跡（奥州市）や金取遺跡（遠野市）などが存在した。また、ハナイズミモリウシ をはじめとする動・植物化石が多量に発見された金森遺跡（一関市）などの遺跡から旧石器時代から人が住んでいたと考えられる。古くは縄文時代より豊かな狩猟・漁労生活を実現した地だった。近年の東北学では、上代の北上川流域は蝦夷の中心地で、日高見国とも呼ばれていたという説が唱えられている（また、日高見国の名が北上川という地名や、「日本国」という国名のもととなったとも）。一方で、胆沢の角塚古墳は最北の前方後円墳であり、ヤマト王権の影響力が及ぶ北の端でもあった。北東北地域は、律令国家の形成期である7世紀後半にはまだその支配に組み込まれておらず、蝦夷は朝廷側からは征伐の対象であった。8世紀末の38年戦争では胆沢に蝦夷の軍事指導者アテルイが現れて朝廷軍に抵抗するが、征夷大将軍に任ぜられた坂上田村麻呂によって滅ぼされる。その後北上川流域は朝廷が掌握し、蝦夷の多くが全国に強制移住させられた。残った蝦夷は、俘囚として支配体制に組み込まれ、同時に胆沢には関東地方から柵戸として入植者が入った。11世紀までに奥六郡（現在の岩手県内陸部）を拠点として糠部（現在の青森県東部）から亘理・伊具（現在の宮城県南部）にいたる広大な地域に影響力を発揮した俘囚長の安倍氏が半独立の勢力を築いた。安倍氏は前九年の役で源頼義の率いるヤマト朝廷軍になびいた秋田仙北の俘囚主清原氏によって滅ぼされた。その清原氏も一族の内紛から後三年の役で滅び、安倍氏の血を引く奥州藤原氏が江刺郡豊田館から磐井郡平泉に拠点を移動して奥州を掌握、豊かな産金をもとに仏教を基盤とする地域支配を実現し、その平泉時代を築いた。
北上市など県の南部では経済発展によって所得水準が大きく向上している一方の内陸北部・沿岸部では目立った経済的発展がなく発展が遅れがちで、所得格差が存在している。統計資料で比較すると、県全体の平均所得が242万円なのに対し、県北の中心都市二戸市・久慈市では、190万円台にとどまり、50万円以上もの格差が存在している。岩手県庁は2006年、県北・沿岸振興本部を設置して対策に乗り出したが、南北の格差は逆に拡大傾向すら呈しており、根本的な対策が求められている。
「岩手」の名称は、県庁の置かれた盛岡市の所属郡名「岩手郡」に由来する。その起源については、「住民の悪鬼追討の祈りに対し、人々の信仰を集めて『三ツ石さま』と呼ばれていた大岩（三ツ石の神、現：三ツ石神社）がそれを懲罰し、二度とこの地を荒らさないという鬼の確約を岩の上に手形で残させた」という故事に倣うとされる。また、「岩手」の名が文献に登場するのは、「みちのくから都に献上された鷹を、帝がたいそう気に入り、鷹に慣れた大納言に預けたが、取り逃がしてしまった」という大和物語の一説の鷹の名「岩手」が初めてだといわれている。帝は、岩手を失った悲しみを「言わないことが言うことより気持ちが勝る」の意味で、「岩手＝言はで」に掛け「いはでおもふぞいふにまされる」と詠じたという。この表現は、古今和歌集の中からの本歌取りである。
東北地方の北部（北東北）に所在し、北は青森県、西は秋田県、南は宮城県と境界を接している。面積は15,275.01km²で、日本の都道府県としては、北海道に次いで2番目に広い。県の人口およそ125万人のうち、100万人以上（7割強）は、内陸部の北上盆地に集中している。盆地と海岸部以外は山地や丘陵地が多く、緑豊かな県である。江戸時代の幕藩時代は、現在の岩手県の前身にあたる地域は伊達藩の北部と南部藩の南東部で構成されていた（このため県内において、呼称としての「南部」は地理的な意味とは逆に県北部を指す場合がある）。また、岩手県内で陸前に該当する地域は釜石以南の三陸地方のみである。南部（県北）地域は陸中に当たる。
水戸藩士の家庭に生まれる。旧姓は高瀬。獨逸学協会学校（現在の獨協大学）専修科を卒業し、法曹会雑誌編集委員、大審院検事などを経て1924年（大正13年）に検事総長となり、1932年（昭和7年）に司法大臣に就任するまでの8年間これを勤めた。司法大臣退任を目前に控えた1934年（昭和9年）7月3日には貴族院勅選議員に勅任され、これを貴族院廃止までつとめている。また同じ年には小山の収賄行為を証言した者が逆に偽証罪で有罪となったいわゆる「お鯉事件」が起きている。小山は初期の社会主義運動取締りの指揮にあたった。東京控訴院検事時代には捜査主任として小原直や武富済らと大逆事件の第一線に立ち、大規模テロ事件の全貌解明と再発防止に貢献した。ただし幇助犯の幸徳秋水についてはこれを担当していない。大逆事件の公判時には担当検事として社会主義者の多くから憎しみを買い、自宅に硫酸の入った瓶を投げつけられるに至って警官に門前を警備させざるを得なくなっている。検事総長在職中に起きた京都学連事件では、林頼三郎司法次官、各控訴院検事長、各府県特別高等警察（特高）課長らと協議した上で、私有財産制度の否認を理由とした治安維持法の初めての適用に関わった。また特高に対しては拷問を禁止する一般的指示権を発動、それ以後は特高による拷問が激減した。司法官として小山は、無差別テロ・軍事クーデター・高官汚職のいずれに対しても厳しい姿勢をとった。人脈的には平沼騏一郎 - 鈴木喜三郎 - 小山と連なりさらに塩野季彦へと続く、いわゆる思想検事系列を形成立していったとみられている。司法大臣のときは中国との戦争に反対、このことから荒木貞夫陸軍大臣と対立した時期があった。この時期に神兵隊事件の公判を指揮している。帝人事件では特に捜査を止めなかった。1934年（昭和9年）には急死した水町袈裟六に替わり法政大学総長に就任、野上豊一郎と森田草平の対立に端を発した学内紛争（いわゆる法政騒動）を収拾した。この頃には荒木陸相との関係を修復して学内に招聘している。法政大学総長として東京六大学野球を熱心に支援したのも小山である。1936年（昭和11年）にはやはり急死した獨逸学協会中学校の司馬亨太郎に替わって校長に就任し、1946年1月まで務めた。