火国（ひのくに）、後の肥国（ひのくに）の分割によって7世紀末までに成立した。肥後国が『続日本紀』に初めて見える持統天皇10年（696年）までのどの時点かに、肥前国と肥後国との分割があったと推定される。 『肥前国風土記』は、全国で5つだけの、ほぼ完全な形で残る風土記の1つである。室町時代末期にポルトガル、スペインの宣教師が相次いで来訪してからは西洋の窓口の一つとなり、天正少年使節団を出すなどした。
幼くして父三七に剣道を学び、皆伝を受けて指南役を継いだほか、田村文右衛門に関口流柔道を学び、高弟となった。また、友人早田治助に漢学、浅山純尹に和学を学び、漢詩・和歌・囲碁を嗜んだ。謡曲は喜多七大夫古能愛弟子某（自称独吟上人）に師事し、たまに喜多座地頭池田平左衛門宅にも通った。江戸勤番時代は高安弥兵衛・長次郎親子に観世流太鼓の出稽古を受け、嘉永2年（1849年）12月8日喜多六平太能静に「定家」「景清」「隅田川」謡の相伝を受け、江戸城西の丸御能や向島長命寺の月次囃子を見学した。函館では秋田県出身石川某と能で交流し、宝生流緒方某の付稽古を行った。弘前では第8師団将校方の謡会に参加し、遠江国出身宝生流小久保某と交流した。
1878年（明治11年）国立銀行を創立して頭取となり、1879年（明治12年）2月第九十九国立銀行として開業したほか、養蚕製糸業・捕鯨業も手がけた。1879年（明治12年）牟田部佃と平戸捕鯨会社を設立し、生月村字御崎捕鯨場・字本浦マグロ網代や、魚目村西村房次郎と共同で大浜村黄島網代で操業し、ザトウクジラ・ナガスクジラ等を捕獲した。1882年（明治15年）平戸村字植松沖平戸瀬戸漁場を開発したが、1884年（明治17年）生月漁場の不振で経営難となり、倒産した。1886年（明治19年）1月銀行頭取を辞職し、浅山純尹を後任とした。1894年（明治27年）旧平戸捕鯨関係者木山金作・木田長十郎・副島清三郎と共に西彼杵郡平島銃殺捕鯨組に出資し、銃殺捕鯨を行った。1895年（明治28年）1月本浦マグロ網代再開のため借区を出願したが、許可されなかった。1898年（明治31年）根室に移住し、函館・弘前でも活動した。1910年（明治43年）6月帰郷し、1912年（明治45年）1月30日中風により84歳で死去した。
明治2年（1869年）1月東京に移り、集議院に出仕した。7月藩治職制改革のため帰藩した後、12月再び上京し、藩権大参事に就任した。明治3年（1870年）5月他の公議人と明治天皇に謁見し、9月藩制に係る任務のため帰藩した。明治4年（1871年）7月廃藩置県により上京し、11月長崎県設置により失職し、帰郷した。明治5年（1872年）3月長崎県九等出仕となったが、5月辞職した。1873年（明治6年）1月長崎県第81大区（旧平戸城下）区長となり、郡中勧業掛・学区取締を兼ねた。8月第83大区で徴兵令反対一揆が起こると、権区長成田辰雄等と共に鎮撫に当たった。1874年（明治7年）2月佐賀の乱が起こると、県庁警備のため旧藩士卒を集めて2小隊を編成し、県庁に引き渡した。4月区長・兼務を辞任した。
2000年4月17日にサンディエゴ・パドレスと契約。2003年にマイナーリーグ最多の90盗塁を記録。2004年8月17日にメジャーデビューを果たし、シーズン終了までに20試合に出場し、メジャー1年目を終えた。2005年のスプリングトレーニングで右肘を痛め、手術を受けたためシーズンを棒に振った。2006年5月11日にトレードでテキサス・レンジャーズへ移籍し、6月21日にレンジャーズとして初出場を果たした。2007年はスプリングトレーニングで開幕メジャーを争ったが、3月23日にAAA級オクラホマシティヘ降格し、メジャーでは9月に8試合に出場したのみに終わった。同年12月5日、クリス・シェルトンとのトレードでデトロイト・タイガースに移籍。2008年11月3日にFAとなり、12月21日にシアトル・マリナーズへ移籍。2009年5月4日にマリナーズから放出され、5月17日にボストン・レッドソックスへ入団したが、7月29日に再び放出された。8月9日にボルチモア・オリオールズに入団。8月31日にニューヨーク・ヤンキースに移籍した。9月14日にヤンキースで2年ぶりにメジャー昇格を果たした。11月11日にFAとなった。2010年1月26日、フィラデルフィア・フィリーズにマイナー契約で入団。しかし、4月2日に放出された。2011年、メキシカンリーグのモンクローバ・スティーラーズに入団。4月下旬にミナティトラン・オイラーズに移籍。2012年、シウダーデルカルメン・ドルフィンズに移籍。2013年もドルフィンズでプレーし、8月30日にタンパベイ・レイズとマイナー契約を結んだ。9月17日にメジャー昇格を果たしたが、10月30日にロースターから外れ、再びマイナーに降格した。2014年は再びシウダーデルカルメン・ドルフィンズに所属。