東北新幹線の東京駅乗り入れが完成して一息ついたようにみえた東京駅であったが、北陸新幹線高崎 - 長野間の先行建設が決まって再び大規模な工事に着手することになった。東京駅では東北新幹線は1面2線のみで取り扱っており、北陸新幹線に伴う列車増発を受け入れる余地がなかった。高崎で上越新幹線と列車を分割併合する方法も運転計画上困難であるとされ、また上越新幹線計画時に検討されていた大宮から分岐して新宿に乗り入れる方法は工事費が約7000億円に上ると見積もられてやはり困難であった。このため、上野駅に1面2線のプラットホームを増設する案、東京駅に1面2線のプラットホームを増設する案、東海道新幹線に乗り入れて品川駅に1面2線のプラットホームを設置する案の3つが検討された。上野駅での増設案は、地下での工事となり約1500億円の工事費がかかると見込まれ、在来線との乗換が不便という難点があった。品川駅への乗り入れ案は、東海道新幹線の線路容量が限界に達しているという問題があり、また電気設備や車両の対応等まで合わせると約2000億円の費用がかかると見込まれた。このため、在来線に支障するという問題はあったが他の2案より工事費が安いと見込まれた東京駅増設案が採用されることになった。この結果東京駅第5プラットホーム（9・10番線）を新幹線に転用する必要が出てきた。丸の内駅舎については既に保存の考えになっていたため取り壊すことができず、第5プラットホームを新幹線に明け渡すために必要な在来線の移転余地がなく、結局従来の第1プラットホームより丸の内駅舎側にそれまでよりも約9 m高い位置に新しく第01プラットホームを増設（中央線重層高架化）し、ここに中央線電車の発着を移して、以下順次在来線を順送りに丸の内側へ移転することで新幹線への転用プラットホームを生み出すことになった。第01プラットホームは、既設の第1プラットホーム直上に設置することも検討されたが、コンコースとの旅客流動が第1プラットホーム上で重複して競合することになるため、丸の内側にずらして設置することが選択された。これにより、新設される2番線は第1プラットホームの新3番線（旧1番線）の上部、やや東側にはみ出した位置に設置されることになった。当初は在来線側から順次工事を進めていく予定であったが、行政機関との中央線重層高架化工事に関する協議が遅れて、1998年（平成10年）の長野オリンピックまでに工事を間に合わせることが困難となってしまった。そこで新幹線工事中東海道本線を2面3線で運行することにし、東海道本線用の第4プラットホームの幅を縮小して空いたスペースに仮プラットホームを設置することで第5プラットホームを使用停止して新幹線の施工スペースを生み出し、在来線と新幹線の工事を同時並行で進めることによって、長野オリンピックに間に合わせることになった。1990年（平成2年）11月9日に東京駅改良工事に着工した。中央線重層高架化にあたっては、神田側で国道・都道・区道の上空にアプローチの高架を建設する必要が出てきた。本来道路上空に線路を建設することは認められていないが、鉄道事業法の例外規定を利用して道路管理者との協議を行い、できるだけJR用地内に収めることを条件として道路上空占用許可が得られることになった。そこで一旦道路上空に高架を建設してそこに中央線を切り替え、空いた旧中央線線路敷に本設の橋脚を建設して、その後高架桁をJR用地内に可能な限り振り戻すことにした。これにより日本橋川の橋梁の少し北側で既設線路から分岐し、首都高速都心環状線の高架をくぐったところから34パーミル勾配で登って、東京湾中等潮位に対して+17.3 mの高さのホームに入る設計とした。京浜東北・山手線のレール面高さ+9.1 mに対して8.2 m高い位置である。またホーム有効長は257 mとし幅は最大12.5 mで、一階コンコースと結ぶエスカレーターを設置した。なおこの工事に際して丸の内側で中央通路と南通路の間を遮っていた特別通路（貴賓通路）を一部地下に移転させることで、この間を開通させてコンコース化した。ホームの上屋については、皇居側から丸の内駅舎を見た時にできるだけその屋根の上にはみだして見えないように配慮して設計し、はみだす部分については塗装や形状での工夫を行っている。中央線重層高架化工事は、1992年（平成4年）12月1日に着工された。1995年（平成7年）7月2日に切り替え工事が行われ、中央線快速電車を新宿および御茶ノ水折り返しとして東京 - 御茶ノ水間は運休にして10時10分までかけて工事を行い、この日から新設された第01プラットホーム（新1・2番線）に中央線電車が発着するようになった。さらに道路上空を占有していた高架橋を本設位置に振り戻す工事を1996年（平成8年）11月17日に行い、この日も中野・新宿・御茶ノ水で電車を折り返して東京 - 御茶ノ水間を深夜23時過ぎまで運休とし、橋桁を所定の位置に移動させた。一方その他の在来線については、新幹線増設プラットホームを工事するスペースを生み出すために東海道線の2面3線化の工事から開始された。まず1992年（平成4年）10月4日から第4プラットホームの8番線を使用停止した上で、第4プラットホームの幅を12 mから8 mに縮小する工事を開始した。この縮小された部分に仮設の8番線を建設して、1993年（平成5年）7月4日から使用を再開し、これにより第5プラットホームの9番線を使用停止した。この9番線のあった場所に仮設の第5プラットホーム（幅4 m）を建設してこれに面して仮9番線を設置し、1994年（平成6年）4月10日から使用開始するとともに、第5プラットホームと10番線を廃止とした。これで第5プラットホームが空いたため、このホームを新幹線用に転用する工事が開始された。その後中央線の重層高架への移転が行われて第1プラットホームと旧1・2番線が空くのを待ち、1995年（平成7年）の10月29日から京浜東北線北行を旧3番線（第2プラットホーム）から新3番線（第1プラットホーム）へ、11月5日から山手線内回りを旧4番線（第2プラットホーム）から新4番線（第1プラットホーム）へ、12月17日から山手線外回りを旧5番線（第3プラットホーム）から新5番線（第2プラットホーム）へ、12月24日から京浜東北線南行を旧6番線（第3プラットホーム）から新5番線（第2プラットホーム）へと順送りで切り替えていった。また新幹線ホーム増設に伴い、第5プラットホームの下も新幹線への乗換改札内に取り込まれて乗換コンコースのスペースが不足することから、第3プラットホームの下を高架橋に改築することになった。当初は第2プラットホームの下も改築予定であったが、工期の都合で第3プラットホームのみとなっている。山手線外回り・京浜東北線南行を第2プラットホームへ切り替えて第3プラットホームが使用停止されたのち、プラットホームの撤去、高架橋への改築、約1.2 mのレール面のかさ上げ、新設プラットホームと上屋の設置、有効長を約80 m延長といった工事を半年で施工し、1996年（平成8年）8月23日の線路切り替えにより第3プラットホームの使用が再開された。この際に新7・8番線が使用開始され、また第4プラットホームの旧7番線が新9番線となり、仮設の8・9番線が使用停止された。仮設の第5プラットホームは不要となったので撤去され、新10番線を敷設しまた第4プラットホームの幅を12 mに戻す工事を行って、1997年（平成9年）3月1日に10番線が使用再開され第4プラットホームの幅が12 mに戻った。この際に9番線を使用停止して軌道の改築工事を行い、これも1997年（平成9年）9月7日に使用再開されて、これで東海道線が2面4線使用に復旧した。また第4プラットホームから中央通路に降りる北側の階段は、乗換コンコースの旅客流動への配慮のためこの際に撤去されている。新幹線用に明け渡された第5プラットホームについては、旧プラットホームを一旦撤去した上で新幹線用の新しいプラットホームを工事した。1997年（平成9年）10月1日に北陸新幹線（高崎 - 長野）が先行開通すると同時に第5プラットホーム（20・21番線）が供用を開始した。この際に第6プラットホームの旧12・13番線は22・23番線に改称されている。20・21番線は上越・北陸新幹線用、22・23番線は東北・山形・秋田新幹線用と使い分けられることになったが、2005年（平成17年）12月10日からこの使い分けは廃止され区別なく発着するようになっている。