崋山の没後の天保13年（1842年）9月17日、アヘン戦争の報に接した春山は、友人の三河吉田藩士・柴田猪助への書簡で、西人が清国の各拠点を占拠している旨を述べ、こうした情勢が崋山の警告したとおりになっているとして、その死を惜しんでいる。これ以降、春山は『兵学小識』などの兵学書の翻訳に積極的にとりくむようになった。翌天保14年（1843年）頃には老中で浜松藩主の水野忠邦から後に『三兵答古知幾』の原本となったミュルケンの蘭訳本の翻訳の依頼を受けた。天保15年（1844年）旧暦9月、春山は江戸詰めとなり、西洋の兵学書の翻訳に本格的に当たることとなり、こうした中で『兵学小識』や『三兵活法』などを訳出するが、洋学研究者の佐藤昌介によると、この翻訳には当時脱獄中であった高野長英による翻訳や加筆・訂正が多く含まれているとのことである。春山は江戸に潜伏した長英と連絡を取り、隠れ家の世話をするなどしていた。しかし、こうしたさなかの弘化3年（1846年）5月、腸チフスにかかって死去した。享年46歳。遺骸は江戸・小石川原町（現在の文京区白山）の寂圓寺へ、衣鉢は田原・龍泉寺に葬られた。春山の翻訳事業は高野長英に引き継がれ、『三兵答古知幾』として結実した。大正2年（1913年）、生前の功績で正五位に叙せられている。
天保10年（1839年）4月9日、春山が康直の参勤に伴って江戸詰めとなってまもなく、同年5月14日、「蛮社の獄」が起こった。渡辺崋山が捕えられ、長英は逃亡、小関三英は自害し、春山も自宅の蘭書などを押収されたものの、春山自身は逮捕を免れた。5月18日、春山は偶然にも自首前の長英に会い、獄中記『鳥の鳴音』と後事を託されたという。春山は江戸で崋山救済のために奔走し、例えば事件を受けて出府した田原藩儒・伊藤鳳山とともに掛川藩儒である塩谷宕陰と合議でどこかへ救援を依頼する書面の作成を画策したり、牢内の渡辺崋山と手紙をやり取りするなどしていることが崋山の画友である椿椿山の蛮社の獄についての書留録『麹町一件日録』に見える。その後崋山が蟄居のために国許･田原に護送された際には先立って帰郷し、獄中での衰弱を回復すべく治療に当たり、画商を紹介して崋山の画を売る、話し相手となり時に元気づけるなど、積極的に世話をした。しかし、こうして春山が国事犯で蟄居中の崋山と堂々と交渉を持ち、救援していることを藩内にはよく思われていなかったようで、隣藩・吉田藩の吉田善伸は「田原には困った山が三つあるとのこと。崋山、春山、いま一人は近年お抱えの儒者（伊藤鳳山）である」という風聞が流れてきたことを書き留めている。結局、春山は天保12年（1841年）の夏ごろには出府し、崋山を寂しがらせている。10月11日、崋山は蟄居していた自邸で自害した。春山は江戸でこれを知り、10月27日、蛮社の獄の際の救援活動で知遇を得た崋山の師で儒学者の松崎慊堂にこのことを報告している。
天保8年（1837年）1月、天保の飢饉が田原地方にも及び、春山は渡辺崋山の指示を受けて藩医中村玄喜とともに藩内村の病人治療を命ぜられて江戸から帰国した。このとき4か月にわたり救済診療に力を尽くし、結果として藩領内からは一人の死者も出さなかったため、功績を称えられ藩主から褒賞を受けている。同年11月、父愚伯が隠居し、春山は37歳で家督を継ぐ。春山の診療範囲は広く、吉田藩領・岡崎藩領など他の領地まで及んだという。天保9年（1838年）、春山は江戸での医学修行を許されたが、父愚伯の病気のため見合わせていたところ、同年11月14日に愚伯は67歳で死去した。
京都府舞鶴市生まれ。京都府立東舞鶴高等学校、横浜国立大学経済学部卒業。在学中に1年間休学し、アルバイトをしながらアジアやヨーロッパを旅行して回った。1986年、防衛庁（現防衛省）に入庁。2006年、安倍政権下では公募により白間竜一郎や、高橋洋一、清水康弘らとともに首相官邸で首相補佐官付内閣参事官を務め、国家安全保障問題担当の首相補佐官だった小池百合子に仕えた。その後、防衛省大臣官房文書課長を経て、2014年より沖縄防衛局長。沖縄防衛局長就任後、名護市辺野古沿岸部のサンゴ礁を破壊した沖縄県漁業調整規則違反容疑で名護市民から告発されていたが、2012年7月12日、那覇地方検察庁は嫌疑不十分で不起訴処分を下した。沖縄防衛局長を退任後、防衛装備庁調達管理部長、防衛省大臣官房審議官（情報本部副本部長併任）を経て2017年9月29日防衛省を退職した。2017年9月25日、小池百合子東京都知事を中心に希望の党が結党され、第48回衆議院議員総選挙に同党から出馬する意向を表明。京都5区からは井上に加え、引退する谷垣禎一後継で自由民主党から立候補した本田太郎（元京都府議会議員）、無所属の中山泰（元京丹後市長）ら5人が立候補し、井上は得票数4位で惨敗したものの（本田が当選）、重複立候補していた比例近畿ブロックで2位に登載されていたため、比例復活により初当選した。希望の党の比例近畿ブロックの名簿では、比例単独1位に樽床伸二、比例2位重複で井上が登載され、他の候補は全て重複3位に登載されていたため、低い惜敗率で復活した井上に対し、10月25日に開かれた党の両院議員総会で、同じ京都府選出の泉健太から議員辞職を勧告された。2018年2月7日、希望の党参議院議員団代表の松沢成文が、古川元久幹事長に希望の党の分党協議を申し入れた際、分党を望む議員リストに名を連ねた（井上の他、中山成彬衆議院議員、中山恭子参議院議員、行田邦子参議院議員）。同年5月7日、希望の党が解散し、国民民主党（民進党に合流）、新たな希望の党に分党した際は、希望の党に参加した。新たに結党した希望の党で政策調査会長に起用された。2019年5月28日の党役員人事で幹事長と国会対策委員長も兼任となった。