能登国穴水（現・石川県鳳珠郡穴水町）に、加賀藩士・此木（長）連潔の子として安政3（1856）年に生まれる。幼い頃は漢文学者の豊島洞斎に師事。その後、加賀藩の藩校・明倫堂で学ぶ。西郷隆盛を尊敬しており、明治6年（1873年）～同8年（1875年）の間に2度、合計14ヶ月の間鹿児島に滞在し、桐野利秋や別府晋介と親交を結んだ。島田一郎ら5人と共に大久保利通の暗殺を企て、明治10年（1877年）11月に上京する。そして明治11年（1878年）5月14日、東京の紀尾井町の清水谷付近にて大久保を暗殺した（「紀尾井坂の変」とも呼ばれるが暗殺現場は紀尾井坂ではない）。事件後に自首し、同年7月27日午前10時頃に死刑を宣告されると同日午前11時半に市ヶ谷監獄にて他の5人と共に斬首刑に処せられた。享年23。墓は谷中霊園にある。
三木の政治姿勢の特徴として、初当選以来晩年に至るまで一貫して金権政治の打破、政治浄化を訴え続け、金儲けではなく理想の追求こそが政治家の仕事であると唱え続けていたことが挙げられる。三木のこのような姿勢は、利権や汚職まみれであると見なされていた多くの自民党議員とは異なり、国民から清潔な政治家とされることに繋がり、自民党に批判的な人々からも支持を集めることに成功した。三木の政治姿勢を示す言葉として、「議会の子」、「クリーン三木」があるが、議会の子は1970年代前半、クリーン三木は1974年（昭和49年）以降に用いられるようになったことが確認されており、田中金脈問題やロッキード事件によって政治とカネの問題がクローズアップされる中、金権政治に対抗する三木にふさわしいフレーズとして用いられるようになったと考えられる。その一方で、三木は戦後小会派、そして保守合同後は自民党の小派閥に属しながら、多数派間にある対立を巧みに突き、したたかに政治的影響力を保持し続ける権謀術数に長けた面も指摘できる。社会党の水谷長三郎、または吉田茂が三木を評した言葉とされる「バルカン政治家」という言葉は、こうした三木の一面を表現したフレーズである。しかし三木はこの自らの政治姿勢を揶揄した「バルカン政治家」という言葉をも、「私はこれを汚名とは思っていない、むしろ理想を持ったバルカン政治家でありたい」と言い、少数派を率いながら理想に向かって邁進するという自己イメージに取り込んでしまう。政治学者の北岡伸一は、このような三木の政治姿勢を、何か積極的な目標に向かって進むものではなく、行き過ぎにブレーキをかける政策を取る政治家であり、アンチテーゼはあってもテーゼや方法論に欠け、また強力な政治力を振るったり強引な政治手法を取ることもなかったと評し、更に政治資金規正法改正、独禁法改正などの三木の目玉政策について批判している。一方、やはり政治学者の若月秀和は、三木にとって政治は自らの理想を語り、追求していくことが全てであり、政治浄化に全力を傾注した結果、経済や外交といった国政の最重要課題がなおざりにされ、自民党の団結も阻害され、国政の停滞を招いたと批判している。なお三木の政治的治績が十分なものであるとはいえないとの評価は、三木の政治姿勢を評価する人たちにも見られ、内田健三は、政治腐敗が起きるたびに三木の政治理念は想起され、政治の原点として警鐘を鳴らし続けていると、三木の政治姿勢を高く評価した上で、党内基盤が脆弱であった三木にとって一政権一功業は望むべくも無かったとした。小西徳應は、三木自身は現在の課題に対処しつつ、明日のことをしっかりと見据えた対策を取るのが政治であると考えていたとする。このような三木にとって、実現すべき理想を掲げ続ける強靭さとともに、理想とはかけ離れた社会の中でも政治家を続け、そして少しでも理想に近づけるために仲間や賛同者を募るための柔軟性を併せ持つ必要が生じ、理想と現実とが乖離している社会の中では、結果として矛盾だらけかついい加減でつかみどころが無い人物とも、信念を持った優れた政治家とも見られるようになったと分析する。そして三木にとって、妥協とはあくまで自らの理想に少しでも近づけるために行うものであり、いわゆる駆け引きとは根本的に異なるとする。このような三木の政治家像は、日本で一般的な調整型や妥協を行う政治家とは根本的に異なり、これが三木の評価を更に難しくしていると指摘している。新川敏光もまた、三木は政治家として理想主義者であり、理想を実現するための力、すなわち権力を求めるのはあくまで理想追求のためであって、そのための妥協、策略であったとした。このような三木は調整、管理タイプの指導者ではなく、理想に燃える目的追求型の政治家であったとする。三木が政治において理想の追求を第一としたという評価は、三木に批判的な政治学者にも見られ、先述の若月は、三木にとって政治は自らの理想を語り、追求していくことが全てであるとし、三木のことを「何をしたわけでもない」と評した御厨貴もまた、頑固で自分流を貫き、いつまでも理想を追うと評している。小西以外にも、岡野加穂留、苅部直が、三木の日本の一般的な政治家と異なる面について注目している。岡野は三木を政治の決定過程において一種の緊張感、動のきわめてダイナミックな緊張状態を創り出し、その上で日本政界の近代化、政治そのものの近代化を目指し、状況の転換を図る政治家とした。三木のこのような特徴はアメリカ留学の中で培われたものとも考えられ、日本のなれあい社会、持ちつ持たれつ社会を色濃く反映した日本政界とは異質の、西欧型の論理に基づく政治家であるとも言え、戦後日本の政治過程では極めて異質な政治的体質の持ち主であったと評価した。そのため三木は現状打破の前向きの緊張状態を生み出す政治家として、拒絶反応を受けることになったと分析した。苅部は三木が福沢諭吉を尊敬し、付和雷同を廃して独立自尊の精神を人間の理想としていたことに着目し、三木の独立の姿勢が日本の政治風土の中では、崇高な孤独とならざるを得なかったと評している。そして三木の政治理念として、1960年（昭和35年）の安保改定闘争後の保守政治の改革方法を巡って現れた、岸信介の系統である福田赳夫に代表される権威派、池田勇人やそのブレーンであった大平正芳や宮沢喜一に代表される経済成長優先派と並んで、石橋湛山の系列を引き継ぐ福祉国家派であったとする見方もある。三木らの主張は軍備を縮小し、その分を経済成長や途上国援助に回すべきとした。更に経済成長によって得られた財は福祉や教育に振り向け、中国、ソ連などとの友好関係の確立を通じて日本の安全保障を図るべきとも主張した。三木ら福祉国家派は、労働運動に組織されている労働者たちをこのような政策を実行に移すことによって自陣に引き込めると考えたのである。この見方によれば、三木は自らの政権で福祉国家的な政策転換を試みたが自民党内の主流派からの拒絶反応を受け、挫折したとする。