陸上総隊
設立の背景
以前から航空自衛隊は航空総隊を統括する航空総隊司令官が全国の運用部隊を、海上自衛隊は自衛艦隊を統括する自衛艦隊司令官が全国の機動運用部隊を一元的に運用（地方警備部隊は5人の地方総監が運用）していたため、空自と海自では有事の際に防衛大臣が統合幕僚長を通じて1人の司令官に命令を下せば全国的な部隊展開が可能であった。一方、陸上自衛隊では最上級部隊として北部・東北・東部・中部・西部の各方面隊が並立していたため、防衛大臣は各方面隊を統括する5人の方面総監に個別に命令を下さなければならなかった。このため方面隊ごとに調整する必要があり非効率との指摘が以前からあった。この問題を解消すべく、防衛省は陸自の部隊を一元的に運用する陸上総隊とそれを統括する陸上総隊司令官の設立を検討しはじめ、2004年の「防衛計画の大綱」（16大綱）でも陸上総隊新設の検討がされたが、この時は見送られた。
なお、かつての警察予備隊においては、全国の部隊を以て編成された「警察予備隊総隊」が置かれていた。そして、方面隊は置かれず、総隊総監が全国の第1から4の管区隊（師団に相当）等を指揮するという形が採られていた（警察予備隊の部隊の編成及び組織に関する規程）。
民主党政権下での情勢
平成21年（2009年）度の防衛計画の大綱において再度、陸上総隊新設が検討された。設立されれば、複数の方面にまたがる作戦立案・調整・部隊運用が迅速かつ継続的に可能となることが期待されていた。しかし、2009年8月30日に執行された第45回衆議院議員総選挙の結果を受けて自由民主党政権が崩壊し、民主党の鳩山由紀夫内閣が誕生したことにより、この改定案は棚上げとなった。
2009年7月29日に公開された平成21年度の防衛計画の大綱の組織改編案においては、陸上総隊を新設すると同時に東部方面隊を廃止し、隷下の第1師団を「首都防衛集団」に改編・陸上総隊直轄として、国の中枢でのテロやゲリラ攻撃への対処能力を強化、もう一つの作戦基本部隊である第12旅団は東北方面隊隷下に移管するとしていた。また、中央即応集団を陸上総隊隷下にして国内外で機動性を高める方針としていた。
実現すれば、方面隊が設置されて以降実に50年ぶりの大改革となるものであった。当初の予定では方面隊全ての廃止も検討されていたが、武力攻撃事態などでの国民保護法に基づく対処などの調整は方面隊が担っており、作戦部隊である師団や旅団にそうした行政的な役割を代替させることは困難であること、また、日本の国土は南北に長く、地域ごとに作戦を担う方面隊は必要と判断されていることから東部方面隊以外の方面隊は存続させる方針であった。
一方で陸上総隊と首都防衛集団の長は方面総監と同等の陸将が充てられるため、中間ポストが増えることによる指揮系統の混乱、将官削減に反対する防衛省制服組と経費削減を主張する財務省の間の意見の対立など、検討課題は多かった。また、全陸上部隊の頂点に立つ「最高司令部」が創設されるということで、太平洋戦争で統帥権を盾に暴走した旧陸軍参謀本部の復活ではないかと危惧する声もあるといわれた。その後制定された防衛大綱（22大綱）及び23中期防において、陸上総隊の創設が検討されていることが明らかとなったが、2010年12月17日に公開された防衛計画の大綱及び中期防衛力整備計画 (2011)においては、「作戦基本部隊（師団・旅団）及び方面隊の在り方について検討の上、必要な措置を講ずる」とのみ示されており、創設するか否か、時期・場所等についての言及はされなかった。
東日本大震災においてJTF-TH（陸海空の統合任務部隊）指揮官を務めた第32代陸上幕僚長（当時東北方面総監）の君塚栄治は、陸上総隊司令部の創設に対し否定的見解を示していた。
第2次安倍内閣発足から設立まで
2012年12月16日に執行された第46回衆議院議員総選挙において自由民主党が政権を奪還し、第2次安倍内閣が発足。その後、安倍晋三首相が25年度防衛予算を当初要求額から1000億円超上乗せする方針を固めるとともに、民主党政権下で制定された大綱の凍結及び中期防の廃止を明らかにした（2013年1月25日の閣議をもって同大綱・中期防は廃止）。
2013年5月16日、自民党は新たな防衛計画大綱に関する提言に、陸上総隊の新設を盛り込む方針を固めた。
2013年12月17日に閣議決定、公開された中期防衛力整備計画（平成26年度～平成30年度）において、「一部の方面総監部の機能を見直し、陸上総隊を新編する。その際、中央即応集団を廃止し、その隷下部隊を陸上総隊に編入する。」との記述がなされた。
2015年5月15日、第3次安倍内閣において、防衛省は2017年度を目処に数百人規模の司令部を朝霞駐屯地に設置することを決定する。母体となる中央即応集団司令部のある座間駐屯地については都心から離れ、かつ用地確保の困難さから候補から外れている。陸上総隊司令官就任者は方面総監経験者のみに限られ、陸上幕僚長に次ぐ地位とされる。
2017年5月26日、陸上総隊創設などの改正自衛隊法が成立。既存の中央即応集団は廃止され、2018年3月27日に総隊が設置された。設置にあたって陸上総隊司令官を指定職6号俸とすることを予定していたが、内局が渋り5号俸に落ち着いた。なお、総隊司令官は平成30年度に実施された第63回中央観閲式より、東部方面総監に代わり執行者を務めることとなった。
創設後
2019年10月12日から13日にかけ、台風第19号により、東部方面隊管区・東北方面隊管区において大規模な水害が発生。13日16時、河野太郎防衛大臣より陸上総隊司令官（髙田克樹陸将）を指揮官とする統合任務部隊が編成された。（陸上総隊司令官の任命は初）
批判
軍事ライターの文谷数重は、陸上総隊司令部の創設により方面隊を廃止して指揮階梯を総隊-師団-旅団に改める案が多くの将官ポストを失う事を恐れた陸上自衛隊サイドの反対で立ち消えとなり、結局方面隊が残置されることになったことを受けて、ただ単に陸上総隊司令部を創設するだけでは屋上屋を架すだけであり、ますます指揮官・幕僚ポストが肥大化して正面戦力や兵站がやせ細る結果になってしまうと批判している。
元陸上自衛隊東部方面総監の磯部晃一は退官後、軍事専門誌『軍事研究』の2016年3月号においてこの問題についての執筆を行っている。
2015年3月10日、平成27年度防衛予算等を審査していた衆議院予算委員会第一分科会で、宮澤博行(自民党)は、陸上総隊の創設が制服組の暴走と文民統制の弱化につながるとの批判を、批判を批判する目的で紹介した。その内容は「陸上自衛隊を五つの方面隊に分けてあるというのは、かつて陸軍が暴走したから、陸上自衛隊を分割しておいた方が暴走を食いとめることになる、陸上総隊を創設して本当にいいんだろうか」というものであった。宮澤の質疑を受けた中谷元は、陸上総隊の必要性を説明したが、批判については言及しなかった。
文民統制を危うくするという指摘については、東日本大震災発生時において、地震発生当日、北澤俊美防衛大臣が自衛隊法及び自衛隊の災害派遣に関する訓令第14条に基づき、大規模震災災害派遣を命令したのは18時であったが、その時刻をさかのぼり火箱芳文陸上幕僚長が震災発生後30分で防衛大臣の命令なく全国の陸上自衛隊に初動命令を発し、各方面から東北に向けて一斉に部隊を出動させたケースが存在する。北村知史によれば、火箱陸幕長の命令は、防衛大臣の権限に基づく命令に先行するもので、文民統制を揺るがし責任問題に発展しかねないものであった。しかし、この災害救助ケースでは、陸自の初動によって、自衛隊の人命救助参加数は結果的に19,000人となり、救助実績は19,286人となった。この実績人数は、阪神大震災時における自衛隊救助実績人数の165人を大きく上回っていた。こうした自衛隊による災害救助活動実績により、世論は1997年以降、自衛隊の存在目的の第一位を「災害業務」と認識するようになっている。こうした状況変化をふまえ、北村は「自衛隊が、今後、どのような役割を自任し、組織としての在り方を定めていくかは、シビリアン・コントロールの観点からも究極的には主権者である国民が決定しなければならない。大震災のようなカオスの状況において、組織の自己革新を図る必要性に迫られたとしても、その方向性を決めるのは、国民である」と指摘した。