2008年秋、自民党岩手県連の要請を受けて次期衆院選で岩手4区から自民党公認候補として出馬し小沢に挑戦する事を表明。2009年3月、西松建設事件にかかわる政治資金規正法違反容疑で、小沢の資金管理団体「陸山会」会計責任者として東京地方検察庁に逮捕された小沢の公設第一秘書・大久保隆規に当該業務を引き継いだ前任者として存在を取り沙汰されている。（高橋が違法行為に関与していたとしても）この問題が注目された時点で高橋の公訴時効は成立していたが、これを受けて自民党本部内には擁立に対する懸念も見られた。高橋自身は「献金の仕組みや授受にかかわったことはない」と否定し、あらためて立候補への意欲を示した。2009年3月21日付の読売新聞は、東京地検特捜部が高橋を参考人として事情聴取したと報じた。西松建設関係者などによると、小沢の秘書時代にゼネコン業界の窓口となり、東北へ進出を図る西松建設へに献金の増額を要求。これを受け、西松建設側は年間2500万円前後を献金するために、西松設立の「新政治問題研究会」を利用したという。読売新聞は「新政治問題研究会」をダミー団体としているが、高橋は「『新政治問題研究会』が西松建設のダミーとは知らなかった」とし、違法献金の嫌疑を否定したという。2009年8月30日に行われた第45回衆議院議員総選挙に自民党から出馬し、公明党の推薦も受けるものの落選。2010年4月上旬に政界引退の意向を支持者などに伝えた。ジャーナリストへの転身を目指すものの、将来的な政界復帰も視野に入れているとされている。2010年3月、東京地検特捜部の事情聴取に応じたことが報道された。
2004年、民主党を離党し第20回参院選岩手県選挙区で自由民主党系無所属の新人候補者の支援を表明した。高橋は秘書時代の人脈を生かして盛岡市内の大手ゼネコン社員を動員し、一晩で候補者ポスターを県内全域に張り巡らせるなど相変わらずの「選挙巧者」振りを見せ付けたものの、民主党公認候補の主濱了に大差で敗北した。2006年3月19日に行われた奥州市長選に出馬、25,078票（30%）獲得するも落選したが、本命視されていた旧水沢市長の高橋光夫が落選し、旧江刺市長の相原正明が当選した背景には高橋の出馬による票割れが一因にあった。小沢との決別の真相について周囲には「墓まで持っていく」と述べている。現在のところ真相は不明であるが、一説には硬直化した小沢後援会に危機感を抱き、後援会運営の中心であった自分が離反することで組織の活性化を促したと言われ、「平成の石川数正」と一部で囁かれた。後に、「小沢一郎の敵か下かに終始する政治手法で自由な議論が封じられたこと」に不満をもっていたこと、小沢一郎の影響力が大きかった地元テレビ局の岩手めんこいテレビにおいて、会長人事や本社移転で小沢と対立があったことが判明している。衆議院議員遠藤宣彦は政策秘書、江別市議会議員角田一は奥州市長選まで行動をともにした最後の秘書。
カリフォルニア州のバレージョ高校を卒業後の1992年、アトランタ・ブレーブスからドラフト4巡目で指名され契約。1998年4月24日にメジャーデビュー。ブレーブスでは3試合の出場にとどまり、9月9日にロサンゼルス・ドジャースにトレード。ドジャースでは5試合に出場し、デビューイヤーは8試合出場で15打数3安打という成績に終わる。シーズン後解雇され、シンシナティ・レッズ、ミルウォーキー・ブルワーズ、ミネソタ・ツインズのマイナーチームを渡り歩くが、メジャーには昇格できなかった。2001年に古巣ブレーブスに復帰。2004年に6年ぶりにメジャーに昇格し、7試合に出場。シーズン後タンパベイ・デビルレイズに移籍し、2005年に30歳でレギュラーをつかみ120試合に出場。2006年は121試合に出場した。大塚晶則、長谷川滋利、藪恵壹、大家友和、高津臣吾らと対戦したことがあり、大塚からはヒットを2本記録している。ランディ・ジョンソン、カート・シリングから本塁打を放ったことがある。デビルレイズが契約を延長しなかったため、日本の球団を含む他球団に売り込みをかけ、2006年12月25日に読売ジャイアンツと契約した。単年契約で年俸は100万ドル。巨人との契約が決まり、「日本で何度も優勝しているジャイアンツでプレーするチャンスを得られて、大変エキサイトしているし、光栄。チームの優勝に貢献するために全力を尽くし、常にハードにプレーする」とコメントした。原辰徳監督はホリンズの打順について、「5番を期待」としていた。2007年開幕時、外国人枠の関係で開幕二軍が有力とされていたが、ジェレミー・パウエルが離脱したことから開幕を一軍で迎えた。4月15日の対ヤクルト戦で増渕竜義から来日初本塁打（3ラン）を含む猛打賞を記録。すると、この試合を契機に調子を上げていき、4月下旬にはチームトップタイの17打点と好成績を収める。5月はスタメン落ちが多くなり、代打での出場が主になった。スタメンに復帰後は打順を8番から7番、7番から6番と打順が繰り上がって行き、6月9日の試合では当初の構想であった5番に座った。2007年シーズン終了後の11月29日に、パウエル、ジェレミー・ゴンザレスとともに自由契約公示された。巨人で124試合に出場したが、他の国内球団を経ていない外国人選手で100試合以上出場したのは、1996年のシェーン・マック以来11年ぶりのことであった。同年オフ、カンザスシティ・ロイヤルズとマイナー契約。2009年1月、フィラデルフィア・フィリーズとマイナー契約。