南部藩士阿部雄平の子として生まれる。4つ年下の原敬とはいわゆる幼馴染の間柄であり、後に原に郵便報知新聞入社を勧めたのも阿部であったとされている。戊辰戦争後に上京して慶應義塾（後の慶應義塾大学）に学び、苦学の末に卒業して1874年に岡山県職員として採用され、後に工部省職員、鉄道事務官を経て内務省に移籍して社寺局長にまで昇った。伊東巳代治などと親しく伊藤博文系の官僚であったとされている。その後、第2回衆議院議員総選挙において岩手県第2区（当時）から無所属で出馬して当選、第4回衆議院議員総選挙でも当選している。1896年1月に群馬県知事に任命されるが、当時の第2次伊藤内閣は自由党と連携関係にあり、当時の内務省では未だに超然主義・政党敵視の傾向が強い中で、阿部は政府の方針を擁護して公然と自由党との連携を打ち出すなど、特異な存在であった。直後の群馬県会選挙では自由党候補に有利な計らいをしたとされ、自由党の圧勝の原因となった。だが、8月にはわずか半年で千葉県知事に転任する。千葉県においても阿部は県議会自由党と結んで学校建設の促進を約束するが、翌1897年4月にはわずか8ヶ月で更迭された。折りしも千葉県尋常師範学校の建設を巡って建築担当職員が業者から賄賂を受け取って検査に手心を加えたという疑惑が明らかになった最中での交代であり、進歩党系を中心とする反対派からは知事がこの事件に関与していたとの疑惑が出された（また、前任知事以来の県書記官も同時に更迭されており、書記官と事件の関連性も指摘されている）。1898年2月には富山県知事に任命されるが、8月には再度千葉県知事に復帰した。阿部の退任後、柏田盛文・安藤謙介と短命の知事が続き県政は混乱していたが、阿部の復帰は前回の師範学校を巡る問題が終わらないうちに、辞任してから僅か1年半での復帰であったために混乱を却って深めさせた。特に憲政本党系（旧進歩党）は阿部知事の復帰に強く反発した。これに対して阿部は憲政党→立憲政友会系（旧自由党）の東條良平県会議長と結んで県政の掌握に努めた。また、前の任期で果たせなかった中学校6校と農学校の新設を実現させ、更に農工銀行を設置するなど、辣腕を振るった。ところが、1902年12月27日に教科書の採用を巡る出版社による贈収賄事件（教科書疑獄事件）が発生し、出版関係者のみならず柏田盛文新潟県知事（元千葉県知事）や阿部、東條県会議長ら有力地方政治家らも拘束された。阿部は賄賂を直接受けなかったものの、東條の要請で彼に賄賂を贈った業者による教科書の採用に同意したとされたのである。結局、阿部は起訴を免れたものの、この事件の解決前に失脚した柏田の後任として新潟県知事に赴任した事から強い非難を浴びた。1906年12月15日に貴族院勅撰議員に選出される。1907年に新潟県知事を退任し、同年6月22日、錦鶏間祗候を仰せ付けられた。翌年第2次西園寺内閣のもとで東京府知事に任命され、錦鶏間祗候は消滅した。退任後、1914年4月7日、再度錦鶏間祗候を仰せ付けられ、外遊の後に1919年に原内閣の成立によって再度東京府知事に任じられた。退任後は、日本国債社長などを歴任した。
1999年のニューイヤーユースサッカーに韓国U-18ユース代表として出場した。高麗大学校時代から海外志向が人一倍強くリール、ブレシアの入団テストを受けている。2002年、高麗大学校から20歳で韓国Kリーグの蔚山現代に入団し頭角を現す。同年に自国開催されたワールドカップのメンバーにも選出され、韓国のベスト4進出に貢献。2003年にスペインのレアル・ソシエダに完全移籍。2004年にCDヌマンシアに期限付き移籍した。しかしレアル・ソシエダでのデビュー戦でアシストを決めたもののスランプに陥り、「クラブ史上最低の契約選手の一人」とも言われ、ヌマンシアでも「おだてるとスパイクをくれる選手」と蔑まれるなど評価は低く、スペインでは2年で28試合出場無得点に終わった。2005年途中より蔚山現代に復帰。シーズン途中の加入ながら11試合に出場し8得点を挙げ、Kリーグの年間MVPを獲得した。2006年のドイツW杯にもグループリーグ3試合に出場。初戦のトーゴ戦ではフリーキックを直接蹴り込みゴールを決めた。2007年、オランダのフェイエノールトへ移籍。移籍金は200万ユーロ（約3億2000万円）。10月21日のエクセルシオール戦でオランダデビューを飾った。2007年の夏にはチェルシーFCへの入団を希望していたが叶わなかった。しかし、2008年1月に足首を負傷して戦線を離脱。その後復帰するも、故障の再発により無得点という不本意な成績のままシーズンを終えた。国内で手術後のリハビリに努めている間、クラブは新監督G・ファーベクのもとでの来季構想を発表。李は戦力外となり、移籍を余儀なくされた。2008年7月、フェイエノールトから水原三星ブルーウィングスへレンタル移籍。期間は1年、レンタル料は50万ユーロ（約8400万円）。しかし、わずか3試合に出場したところで試合から遠ざかり、同年12月、水原はプロサッカー連盟に対し、李への任意脱退の公示を要請した。任意脱退とは、クラブが選手との契約を一時ストップする制度であり、当該選手はすべての活動資格をはく脱され、復帰するまで給与も支払われない。水原が明らかにした任意脱退公示要請の理由は、李の練習不参加および指示不履行。水原は「チャンピオン戦を控え、11月16日から23日にかけて行われた慶州キャンプで、李が負傷を理由に練習を軽視し、その後コーチ陣によるリハビリ治療の指示にも従わなかった」と明らかにした。2009年2月25日、Kリーグの全南ドラゴンズへレンタル移籍。3月7日Kリーグ開幕戦にて レフリーのジャッジを不服とし「銃で撃つジェスチャー」での威嚇・暴言等で警告。6試合出場停止・罰金600万ウォンの処分を受ける。さらにKリーグ賞罰委員会による社会奉仕命令が下され、プロサッカー選手として初めて試合前のフェアプレーフラグ旗手としてピッチに立った経験も持つ。同年7月、コーチ陣と衝突した末にチームを無断で離れ、任意引退選手となる。全南とのレンタル契約が終了するまでKリーグでは活動できないこととなり、 同月、サウジ・プロリーグのアル・ナスルへ移籍した。しかし給与未払い等の不満もあり、翌年3月には韓国へ帰国した。2010年6月から大宮アルディージャに練習生としてキャンプに参加し、同年8月に大宮と2011年1月1日までの正式契約を結んだ。同年12月には1年間の契約延長が発表された。2012年1月、契約満了により退団。2013年よりKリーグ・仁川ユナイテッドFCと契約。10月14日、仁川広域市南洞区の飲食店で暴行事件を起こし、書類送検され、10月25日、罰金2000万ウォンとシーズン残り試合の出場停止などの処分を受けた。2015年11月、現役引退を表明。2016年以降は韓国のテレビ局でサッカー解説者として活動する。