長岡藩士・橋本弥十郎の長男として生まれる。1884年に長岡学校を卒業、育英団体である長岡社の支援を受けて上京、大学予備門へ進学。1890年、東京帝国大学を卒業して法制局に入り、1893年に枢密院書記官となる。その後、大蔵省へ移り、欧米出張を経て1905年に横浜税関長、1907年に主計局長、1911年には大蔵次官となる。さらに、1912年12月5日に貴族院議員に勅選され、1913年には農商務次官に就任した。1916年、山田又七に代わって宝田石油の社長に就任すると、日本の石油業界の国際競争力を高めるため、ライバルであった日本石油との合併を画策する。1921年、日石の内藤久寛を社長に据え、宝田の橋本が副社長となることで、この大合併は成就した。1926年、内藤の引退に伴い、日本石油の第二代社長に就任（1944年まで在任）。以後、様々な石油関連企業の取締役等を歴任し、1941年には帝国石油株式会社の総裁となった。また、1945年から1948年まで、社団法人燃料協会の会長を務めた。1946年5月28日、貴族院議員を辞職。公職追放となる（1951年解除）。1959年の死後、勲一等瑞宝章を受章した。墓所は青山霊園。
長野県長野市出身。長野市立芹田小学校→長野市立櫻ヶ岡中学校を経て長野県長野東高校を卒業後、創価大学法学部に進学。大学卒業後に地方公務員として長野市役所に入庁する。市役所を退庁後に長野市議会議員から長野県議会議員を経て、2017年10月に第48回衆議院議員総選挙に比例北陸信越ブロックから立候補し初当選を果たす。2006年4月に防災士の資格を取得。妻、母と2人の息子がいる。
昭和18年（1943年）岡山県紙芝居連盟により、正持がのぞきからくりを元に紙芝居を考案し、『皇朝画史』を紙芝居に仕立てて街頭で講釈し、尊皇攘夷思想を広めたとする説が報道された。この報道の根拠は不明だが、『皇朝画史』は各枚の内容が独立していて連続した物語となっておらず、仮に講釈が事実であっても絵解の域を出なかったと考えられる。昭和33年（1958年）には紙芝居カエルの会により、正持が江戸から逃れた際、狂言師から狂言を習得し、舞台姿を絵に描き、木枠に嵌めて見せながら台詞を語る「画狂言」を行ったとの説が報道されたが、この説の典拠も明らかでない。
六尺男で、顔には白癜があり、鼻が高く、早口だった。興味を持った話は一度聞くと生涯忘れなかったが、取り留めのない話は全く記憶しなかった。書が不得意で、「無双の悪筆」を自認した。広く名家と交流し、曲亭馬琴に「処々走り廻り候遊人」と評されている。弁が立ち、しばしば人前で軍談や落語を披露した。人の美徳を説くことを好み、侠客・無頼の徒を教え諭して正しい道に導いたことがあった。酒を好み、生活は乱れがちで、晩年は眼病を患った。深川元儁には持病を変形間欠熱と診断されている。弘化4年（1847年）姫路で善光寺地震の報に接した際、人に「仏を信じてはるばる善光寺に詣でてこんなこととはどういうことだ。」と聞かれ、「仏教では前世の業報といい、儒教では天命といい、神道では禍津日神の仕業といい、窮理学では地球の自転のせいといわれるだろう。」と分析した上で、僧侶・漢学者を非難し、神道を最も尊重すべきと主張している。
小学校6年生の時、少年隊ファンの姉が勝手に郵送した履歴書がジャニーズ事務所の社長ジャニー喜多川の目にとまり、直接電話で当時神戸で行われていた光GENJIのコンサートに招待される。それまでも姉の影響で『PLAYZONE'89 Again』や『PLAYZONE'90 MASK』などのミュージカルは観ていたものの、本人は特に興味が無かった。しかしこのコンサートを観ているうちに「かっこええな、やってみようかな」と思い始め、12歳の時に再び光GENJIのコンサートを横浜アリーナで鑑賞したその場で事務所入りを決める。母親がこの時、社長にたった一言「よろしくお願いします」と言って頭を下げた姿を忘れられないと本人はインタビューで話している。その1991年5月5日に横浜アリーナで初めて出会い、同じように事務所入りを決めた堂本剛とともに、平日は中学校に通いながら週末は新幹線で東京にある事務所のレッスンに通う日々をしばらく続ける。中学3年生の時に転校し、上京。今度は合宿所と仕事場の往復となる。ちなみにこの頃合宿所に住んでいたのは剛と長瀬智也、井ノ原快彦とあと1人くらいだったが、同じ仕事と境遇で価値観が合う本当の仲間ができたことが何より嬉しかったという。当時ジャニーズJr.と呼ばれる人間は10人程しかおらず、踊りのレッスンには常に全員が出ているような状況。レッスンはハードであったが、勉強より踊ることがとにかく楽しく、合宿所に帰ってからも鏡の前で何度も復習をした。光GENJIのコンサートで初舞台を踏み、その後も主に光GENJIやSMAPのバックダンサーとして踊り続けた。当初から同じ苗字であった剛と2人揃って活動することが多く、「W堂本」「KANZAI BOYA（カンサイボーヤ）」などの呼び名を経て1993年4月4日、『キスした?SMAP』にて初めて「KinKi Kids」というグループ名が発表された。