1924年、京城府に生まれる。京畿中学校卒業後、陸軍士官学校に入校。水泳は苦手であったが兵科は志望13番目の船舶兵に指定された。1945年8月、在学中に終戦を迎え卒業扱いとなった。姜文奉らと共に帰国。1946年1月、軍事英語学校卒業、任少尉（軍番10013番）。第1連隊教育課長。1946年4月、警備士官学校の創設に任じ、副校長兼生徒隊長。1946年11月、第9連隊長。1947年3月、総司令部作戦局長。5月、統衛部（国防部の前身）作戦処長、任中領。1948年7月、アメリカ陸軍歩兵学校に留学。1949年6月、陸軍参謀学校の創設に任じ、副校長。1950年6月10日、陸軍本部作戦教育局長。6月25日に朝鮮戦争が勃発すると前任の姜文奉大佐と交代勤務しながら戦局に対処した。1950年9月、憲兵司令官。1951年1月14日、国民防衛局長。1951年4月27日、第1軍団副軍団長。同年7月、第1軍団長代理。1952年1月、第5師団長。8月、陸軍本部作戦局長。1953年、駐アメリカ大使館付武官。1955年、陸軍士官学校校長。1956年、第1軍団長。1957年、第2軍団長。1959年、アメリカ陸軍大学卒業。1960年4月、陸軍本部作戦参謀副長。同年、軍需参謀副長。1961年5月、陸軍参謀次長。1962年、第2軍司令官。1963年、第1軍司令官。1965年、合同参謀会議議長、任大将。1967年、予備役編入、水資源開発公社社長。1968年、駐ブラジル・ベネズエラ大使。1974年、第9代国会議員（維新政友会）。
軍用としてレールガンや電磁パルスを放射する電磁波爆弾、レーザーなどの指向性エネルギー兵器の電源として注目されている。構造と原理上、寿命が短いことが欠点であるため、短期間で発電装置ごと交換するような使用法になると思われる。
火薬の爆発によってアルゴンガスを圧縮して温度10万度、電子密度が10²⁰個/cm³の高温高密度のプラズマを発生させ、これをMHD発電装置へ送り込むことで発電する。1960年代までは火薬のガスを直接作用流体にしていたために僅か数%しか利用されず効率が悪かったが、近年では希ガスをプラズマ化させることによって30％近い効率が実現している。MC型に比べると最大出力では劣るが、持続時間が長く同じ装置を複数回利用することも可能である。
2011年3月21日の「ニコニコ笑っている人に放射能はきません」という山下の言葉は世界中に反響を呼び、ドイツやフランスからもインタビューに来るほどであった。アメリカでは2011年6月10日、「デモクラシー・ナウ!」で環境活動家のアイリーン・スミスが福島県の健康調査とそれを率いる山下について、「100ミリシーベルト浴びても心配ない」という見解を「ニコニコ笑ってる人には来ません。クヨクヨしてる人に来ます」という発言とともに、紹介した。8月にはドイツのデア・シュピーゲルからインタビューを受け、発言内容の意図等に間して質問を受け、山下は自分を非難する人々は「専門家ではない」とし、約200万人の福島県民を対象とする健康調査を、「科学界に記録を打ち立てる大規模な研究になる」と発言した。9月には、フランス国立科学研究センターの経済学者であるティエリー・リボー (Thierry Ribault) が日本財団主催の国際会議「放射線と健康リスク」や健康調査について、山下の3月の発言「100マイクロシーベルト/hを越さなければ、まったく健康影響を及ぼしません」（年間876ミリシーベルト）やその後の「年間100ミリシーベルト」を引用しつつ、これらが「科学詐欺」であるとしている。ドイツZDFテレビ「フロンタール21」は福島市民講演会の映像とともに山下が「ニコニコ笑っていれば放射能の被害は受けません。クヨクヨしていれば受けます」「動物実験はありませんが、困難な時にもクヨクヨしなければ健康被害はないのです」「毎時100マイクロシーベルト以下ならいずれにしろ健康に害はありません」という発言を放送した。しかし、動物実験の部分は誤訳となっており、「100マイクロシーベルト」発言が「10マイクロシーベルト」と訂正されたことも伝えられてはいない。この映像はネットを通じて世界へ発信され、日本にも日本語字幕付きで伝えられた。台湾（中華民国）では、2011年10月に蘋果日報がティエリー・リボーの翻訳記事を掲載した。2012年3月5日に放送された公共電視の番組である『我們的島』（私たちの島）第645集の『311的習題（311の練習問題）』と『核電廠（原発）補考記』で山下は、「福島の原子力災害は予測するのが難しく、ただこの一点について周辺国家は日本を手本とすべきではなく、今回の失敗を反面教師としなければならない」と語った。さらに、「災害前は『放射能は私たちとはとても遠く、しかも原子炉は百パーセント安全である』と信じていたが、この種の考え方は『完全に間違い』であることを実証した」と表明し、「私たちはリスク管理のために良く準備すべきで、それは単に危機がやってくるのがとても早いというばかりではなく、さらに一般的に言えば大衆のためである」と強調した。2012年同月、フィナンシャル・タイムズのミュア・ディッキー東京支局長は、山下にインタビューし、その経歴や彼に対する否定的な評価に触れつつ、福島第一原発からの放射性降下物による健康被害よりも避難生活やストレスによる健康被害の方が深刻だというその確信が科学者の賛同を得ており、福島県で政府出資による最重要なプログラムの一つである今後数十年にわたる200万の県民の健康をモニターする意欲的な調査を率いる手助けをしていると書いている。2012年8月、チェルノブイリから戻ったばかりの山下は、エコノミストの取材で、レベル7に到達したにもかかわらず福島の放射性同位体の大半が海に吹き飛ばされたので、チェルノブイリ原子力発電所事故よりもはるかに深刻ではなく、政府が汚染された食物や牛乳の消費が迅速に止められたので、チェルノブイリ周辺の子供が苦しんだような甲状腺への潜在的な問題を減らしたと力説した。2013年2月にネイチャーは本人からの電子メールを受けて、山下が健康管理調査委員会の座長を辞任することを報じた。同年11月、アメリカのNatural Newsは朝日新聞連載『プロメテウスの罠』で山下がヨウ素剤の配布を拒否したことやSPEEDI結果への反応を引用し、山下が放射性降下物に対して誤った情報を与えていことを認めたと報じた.。