2004年、小泉のはからいで民間人の自民党憲法調査特別顧問および首相補佐官に就任。2005年の衆院補選に当選して議席を回復し、同年の郵政民営化法案を審議する特別委員会筆頭理事として小泉の郵政民営化に尽力していたが、郵政解散の頃から小泉とは距離を置くようになる。同年、自民党安全保障調査会長に就任。これ以降、中国、韓国との関係をより重視する加藤紘一や福田康夫、古賀誠と連携を密にする。2006年に政権に就いた安倍晋三とは、対北朝鮮政策を巡って度々対立。安倍の外交姿勢は圧力に傾倒しており、日本の孤立化を招き、国益を損ねると批判した。2007年1月、北朝鮮を電撃的に訪問し、行き詰まった北朝鮮の核問題や拉致問題の状況打開を図る。平壌で北朝鮮の宋日昊・日朝国交正常化交渉担当大使と会談。北朝鮮の核放棄や拉致被害者の日本帰国を迫ったが、実現には至らなかった。2007年、安倍改造内閣が退陣すると、ポスト安倍に福田康夫を支持した。福田康夫内閣が成立すると、自民党外交調査会長に就任、引き続き外交や安全保障政策を中心に活動を行う。次いで麻生内閣においても再任されたが、次の第45回衆議院議員総選挙を見据えて旧YKKの加藤とともに新党結成に動き、国民新党代表代行の亀井静香の仲介で民主党の小沢一郎とも会談をもった。結局、第45回衆議院議員総選挙には自民党から出馬したが自民党は大敗、山崎は再び落選した。落選後も、山崎派会長職を2012年に石原伸晃に譲るまで務めた。2010年の第22回参議院議員通常選挙に比例区からの立候補を目指していたが、自民党の定年制度により公認されなかった。2010年3月頃、国民新党代表の亀井静香に同党入党を前提とした内閣参与入りを要請されたが、即時拒否した。2012年、次の選挙には出馬せず、引退を表明した。現在は自身が設立した近未来政治研究会の最高顧問を務めている。2015年3月11日、さとやま・草莽の会の結成に参画した。2016年7月、YKKを振り返った回想録『YKK秘録』を出版。9月には加藤が死去し、合同葬で弔事を読んだ山崎は、その最後で「いわゆる加藤の乱についてはあれは一度も止めなかった僕が悪かった。すまんという他ありません。」と締めくくった。2018年3月14日、衆院議員会館で行われた石破派の憲法改正に関する勉強会で講師として招かれた。
愛称「フッケバイン」は、ヴィルヘルム・ブッシュ（1832-1908）が書いた「ハンス・フッケバイン （Hans Huckebein）」に登場するカラスの名に由来する。開発の経緯はドイツ空軍偵察機が英国本土を偵察中に、インドの基地へ展開する途中で英国に立ち寄っていたアメリカ合衆国のボーイングB-29スーパーフォートレス爆撃機を偶然発見した事に遡る。高性能で迎撃が極めて困難なB-29実戦投入の事実はドイツ空軍を周章狼狽させ、革新的なジェット戦闘機の新規開発を余儀なくされる事となった(肝心のB-29は1943年8月のケベック会談で対日戦専用とされた)。この開発計画は緊急戦闘機計画と呼ばれ、フォッケウルフ社による本機の他、ユンカース EF 128・ハインケル P.1078・メッサーシュミット P.1110・ブローム・ウント・フォス P.212といった機種が開発された。最終的にドイツ空軍はフォッケウルフ製の本機を制式採用することと決定し、フォッケウルフ社は当初、本機にFw 232の正式名を付けようとしたが、この番号はAr 232として既に使われていたため、ドイツ航空省により正式名がTa 183に変更された。Ta 183は1944年末期に、16機の原型機製造が発注され、初飛行は1945年5月から6月の予定であったが、1945年4月にイギリス軍がフォッケウルフの工場を占領したことにより、1機も完成しないまま終戦を迎えた。Ta 183は40度の後退翼を持ち、機首に空気取り入れ口があり、ジェットエンジンを胴体後部に収納する新世代のジェット機であった。 ドイツの第2世代ジェットエンジンであるハインケル・ヒルトHeS 011の搭載を予定していたが開発が遅れていたため、Me 262などに搭載されていたJumo 004Bを暫定的に搭載することになっていた。主翼は木製で、翼断面は表裏の無い対称形であり、裏返して使うことで左右の主翼の互換性があった。またエルロンとラダーが共通部品だった。これらは部品の供給を合理化するためであった。胴体下には窪みが設けてあり、搭載時にはその部分の外板を外して半埋め込み式に増槽や爆弾を搭載することができる設計だった。この機体は、クルト・タンクの片腕であったハンス・ムルトホップ技師の貢献が大きかったと言われている。ハンス・ムルトホップ技師は戦後アメリカ合衆国に移り、リフティングボディの研究に従事し、その成果はスペースシャトルに反映されている。Ta183の設計者であるクルト・タンク自身も戦後アルゼンチンで、Ta 183の設計をもとに、プルキー II を設計した。プルキーII は優秀な機体であったが、T字尾翼を採用したため高仰角時の失速特性が良くない機体であり、Ta 183も実機が完成していた場合、同様であった可能性がある。その場合対策として、MiG-15のように主翼上面に境界層分離板か、もしくは、F-86のように主翼前縁にスラットを設ける必要があったであろう。同様にTa183の影響を受けた航空機にサーブ 29 トゥンナンがある。まだ論文が限られていた当時、サーブの技術者は戦後間も無くスイスを介してドイツの後退翼に関する研究成果を入手してトゥンナンの設計に取り入れた。スウェーデンでジェット戦闘機のシリーズが始まりトゥンナンは1970年代まで運用された。