マレー作戦、真珠湾攻撃、マレー沖海戦に始まる南方作戦（第一段作戦）で大本営の要望通りの成功を収めると、山本は第二段作戦に取り掛かった。山本は真珠湾攻撃前に対米最後通告が遅れないように中央に対し確認していたが、駐米大使館の失態により結果的に遅れていた。山本は騙し打ちの声はアメリカの宣伝とはじめ考えていたが、1942年（昭和17年）2、3月ごろから本当に遅れたのではと考え始めていこのため山本は積極作戦で立ち直りを困難にして早急に敵の戦意喪失が必要と考えた。結果的に真珠湾攻撃が宣戦布告の前に行われ、アメリカ国民が激昂したことに山本は心を痛め「僕が死んだら、陛下と日本国民には、連合艦隊には決して初めからそういう計画をしておりませんと、そうはっきりと伝えて欲しい」と周囲に語っている。4月4日の誕生日に、勲一等功二級の勲章が贈られた。山本は「こんなもの貰って良いのかな」「自分はアメリカ軍の砲艦を南京近くで沈めた以外何もしてはおらん。軍令部総長功一級の関係からか」と恥ずかしがっていた。軍令部は米豪分断作戦を、連合艦隊司令部は当初インド洋作戦を主張し、軍令部に却下されるとハワイ攻略作戦へと重点を移す。連合艦隊司令部は、山本の望むハワイ攻略をにらんだミッドウェー島攻略作戦を独自に作成し、早く認めさせるため大本営の望むFS作戦を組み入れ4月1日までに幕僚にまとめさせた。連戦連勝の驕りから成功を前提にスケジュールが組まれ、敵勢力を事前に調べることもしなかった。作戦案は4月3日に軍令部に持ち込まれたがFS作戦を進めたい軍令部作戦課はこれに反対した。これに対し連合艦隊参謀・渡辺安次からミッドウェー攻略作戦が認められなければ山本は職を辞すと伝えられた。しかし軍令部作戦課は反対の意思を変えなかった。4月5日、渡辺は軍令部次長・伊藤整一から理解を得て、軍令部総長・永野修身まで伝えられ、第一部長・福留繁が召致され協議の末、FS作戦に修正を加えて連合艦隊案が採決され、第二段作戦の骨子となった。軍令部によれば決め手は「山本が十分な自信があると言うから」であったという。首席参謀・黒島亀人によれば、ミッドウェー作戦における山本の辞職示唆は脅しではなく決意していたという。また、山本の幕僚は一航艦の南雲長官と草鹿参謀長に批判的であり、南雲を第一航空艦隊長官から更迭すべきと要望したが、「それでは南雲が悪者になってしまう」と答えて却下した。2月22日には日本海軍の潜水艦によりアメリカ本土砲撃に成功したほか、アメリカ西海岸沿岸で大規模な通商破壊戦を行っている。これに対してアメリカ海軍は4月18日にドーリットル空襲により日本本土初空襲に成功、山本に国民から非難の投書があった。山本は以前から本土空襲による物質的精神的な影響を重視していたため、一層ミッドウェー攻略作戦の必要を感じた。連合艦隊航空参謀・佐々木彰によれば、山本は日本が空母によるハワイ奇襲を企図できるのであるから、哨戒兵力の不十分な日本本土に対して、アメリカもまた奇襲を企図できると考えていたようであるという。5月8日、珊瑚海海戦で日本軍は失敗し、ポートモレスビー作戦は延期になり進攻が初めて止められた。連合艦隊司令部では徹底して追撃せず北上退避した第4艦隊司令長官・井上成美を臆病風、攻撃精神の欠如と非難した。山本は「珊瑚海でもはじめは相当苦戦しましたが結局は実力に物を云はせて押切つたわけでした」と知人に語っている。ミッドウェー島攻略とアメリカ機動部隊殲滅を目的とするミッドウェー作戦が6月7日決行予定で計画される。4月22日、帰還したばかりの実行部隊である第一航空艦隊に知らされると、山口多聞、源田実から戦力を一度立て直すべき、準備も間に合わず時期尚早と激しい反対があったが山本ら連合艦隊司令部はすでに決まったことであるとその声を黙殺した。第二艦隊司令長官・近藤信竹からも、「ミッドウェー作戦をやめアメリカとオーストラリア遮断に集中すべき」と意見があったが山本は奇襲できれば負けないと答えた。またミッドウェーの保持、補給には考えがなく、参謀長・宇垣纒は保持不可能なら守備隊は施設破壊して撤退すると答えている。山本は戦訓研究会で「長期持久的守勢を取ることは、連合艦隊司令長官としてできぬ。海軍は必ず一方に攻勢をとり、敵に手痛い打撃を与える要あり。敵の軍備力は我の5から10倍なり。これに対し次々に叩いてゆかなければ、いかにして長期戦ができようか。常に敵の手痛いところに向かって、猛烈な攻勢を加えねばならぬ。しからざれば不敗の態勢など保つことはできぬ。これに対してわが海軍軍備は一段の工夫を要す。従来のゆき方とは全然異ならなければならぬ。軍備を重点主義によって整備し、これだけは敗けぬ備えをなす要あり。わが海軍航空威力が敵を圧倒することが絶対必要なり」と発言。5月1日から4日までの図上演習ではミッドウェー攻略中に敵空母部隊出現で日本空母部隊が大被害を受ける結果が出るが、宇垣から「実際の作戦ではこのようなことにならないよう指導する」と判定のやり直し、被害下方修正が行われた。また戦訓研究会、図上演習でも各部隊から延期が求められ、攻略を目的とする空襲と敵機動部隊迎撃のどちらが主目的なのか、山本の乗る「大和」をはじめとする主部隊がなぜ支援の届かないはるか後方からついてくるのかといった疑問も出た。またこの頃、連戦連勝から軍全体として気が緩み機密保持が保たれておらず取り締まるべき連合艦隊司令部も同様であった。作戦準備も遅れ延期の要望が相次ぎ軍令部も2、3週間遅らせることを勧めたが聞かず、5月25日の最後の図上演習では攻略作戦成功後の検討だけであった。最終的に機材が間に合わずミッドウェー作戦は1日遅らせることを認めたが、攻略日の変更はなかった。戦艦群（特に低速の伊勢型戦艦・扶桑型戦艦）が作戦に加わったことについて、山本は事前の作戦会議で「情だよ」と答えている。ミッドウェー海戦直前の5月14日、山本は眼鏡をかけマスクをして変装すると、呉駅で愛人・河合千代子と落ち合った。山本は病み上がりだった河合を背負って人力車まで運んだ。河合が呉を去る時は、列車の窓越しに強く握り合って別れを惜しんでいる。直後には「私の厄を引き受けて戦ってくれている千代子に対しても、国家のため、最後の御奉公に精魂を傾ける。終わったら世の中から逃れて二人きりになりたい。5月29日には私も出撃して三週間洋上に出るが、あまり面白いことはないと思う」という趣旨の手紙を送った。ミッドウェー作戦前の山本の「大和」航海中における生活は以下のようなものだった。まず午前6時ごろ艦橋に姿を現すと、無言で長官専用椅子に座る。当時の艦長・高柳儀八大佐、参謀長・宇垣纏と言葉をかわすこともなく、広い艦橋は沈黙に包まれたという。朝食後の作戦会議では、幕僚全員が発言するよう促した。朝夕30分の入浴習慣は、平時、戦時、停泊中、航海中とも変わることがなかった。午後8時になると艦橋作戦室で参謀・渡辺安次と将棋に興じ、4時間以上指すこともあった。このため午後8時以降の先任参謀は宇垣や黒島ではなく、渡辺と思われるほどであった。山本ら連合艦隊はミッドウェー作戦で敵機動部隊を誘い出し撃滅することを主目的として説明したが、軍令部はミッドウェー島攻略支援を主目的として示した。そのため実行部隊に連合艦隊の意図は徹底されなかった。山本ら連合艦隊司令部は第一航空艦隊（南雲艦隊）司令部に対し、命令には書きくわえなかったが、攻撃隊半数を待機させ敵機動部隊による側面からの攻撃に備えるように指導した。しかし連合艦隊司令部も敵機動部隊はハワイにおり、出現はミッドウェー作戦成功後でしか想定せず図上演習もしなかった。白石萬隆によれば、連合艦隊は若干企図が暴露しても敵艦隊を誘いだそうとしている節があったという。真珠湾にいるはずである敵機動部隊の動向の情報を南雲艦隊から機を逸せず知らせてほしいと出撃前に頼まれ、作戦の転換は連合艦隊から知らせることになっていたが、連合艦隊司令部は敵機動部隊が真珠湾を出たらしいことを察知したにもかかわらず南雲艦隊へ伝えることを怠った。連合艦隊司令部は5月中旬より敵通信増加を気に止めなかったが、6月3日までに入手した情報から我が動静偵知し活発に動いている、警戒すべきも好ましいと考えていた。4日ごろには敵機動部隊が存在する兆候をつかみ、幕僚が「南雲艦隊に知らせますか？」と山本に相談したが、山本は「敵に無線を傍受される恐れがあるし、南雲たちも気づいているだろう」と返答し、南雲艦隊へは伝えられなかった。また連合艦隊は全部隊へ東京からの甘い状況判断を流し続けたままであった。そのため南雲艦隊は周囲に敵機動部隊はいないものとして行動しており、攻略のための攻撃が不十分と知ると待機を指示された攻撃隊を使用した。参謀長・草鹿龍之介によれば「山本の望みは　南雲も幕僚もよくわかっており、状況が許す限りそうしたが、ミッドウェー基地から航空攻撃があり、敵空母の発見ない状況で半数を無期限に控置しておくのは前線指揮官としては耐えられない。後で問題だったとしても当時の状況では南雲の決定は正しかった」という。6月5日、ミッドウェー海戦において、日本軍はミッドウェー島攻撃中に敵機動部隊から攻撃を受け、南雲艦隊の主力空母4隻他を喪失する大敗北を喫する。山本は完成したばかりの戦艦「大和」に座乗して機動部隊後方を航海し、米軍とは全く交戦しなかった。空母「赤城」、「加賀」、「蒼龍」の被弾炎上という急報を「大和」作戦室で渡辺安次と将棋を指している時に受け取ったが、「うむ」「ほう、またやられたか」の一言だけをつぶやき、将棋はやめなかった。また、日本の主力空母4隻が撃沈された際には「南雲は帰ってくるだろう」と述べた。翌日昼ミッドウェー島を砲撃する案を渡辺が提案し黒島が同意するが山本はそれを却下した。山本は幕僚に敗因責任は私にある一航艦を責めてはいかんと言い、第一航空艦隊参謀長・草鹿龍之介に批判的な黒島に対しても「南雲、草鹿を責めるな」とくぎを刺した。大敗後、帰還した草鹿龍之介の「責任を取るべきところではあるが雪辱の機会を与えて欲しい」という言葉に、山本は「今回のことで誰か腹を切らねばならぬとしたらそれは私だ」と答え、再編された空母機動部隊（第三艦隊）の指揮を引き続き南雲と草鹿に採らせた。山本は南雲に「今次の戦果に関しては同憂の次第なるも、貴隊既往赫々たる戦績に比すれば、なお失うところ大なりとはせず。幸に貴長官再起復讐の決意烈々たるを拝聞し、君国のため真に感激に堪えず、願わくば最善をつくして貴艦隊の再編成を完了し、過去の神技に加ふるに、今次の教訓を加え、一挙敵を覆滅するの大策に邁進せられんことを。切に貴官のご勇健を祈る」との手紙を送っている。宇垣参謀長によれば、山本の内心は「全責任は自分にある」「下手の所ありたらば今一度使えば必ず立派に仕遂げるべし」だったという。日本へ帰還後の作戦研究会でも「屍に鞭打つ必要なし」として、大敗北の責任の追及や敗因研究が行われることはなかった。7月12日、山本以下連合艦隊司令部参謀達（宇垣は参加せず）は料亭で宴会を行い、着任したばかりの土肥一夫少佐によれば一同何事もなかったかのように陽気であったという。ミッドウェー海戦大敗北後、南雲艦隊の将兵に緘口令がしかれたが、山本は名刺に近況を書き愛人・河合千代子に送っている。海軍兵学校監事長・大西新蔵中将は、1945年（昭和20年）8月15日の玉音放送後、全校生徒を前に「ミッドウェー海戦で負けた時、Y元帥は当然腹を切るべきだった」と断言し、温情主義と情報の隠蔽が敗戦を招いたと指摘した。