第32軍は夜襲失敗以降は、八原高級参謀の持久戦術により、アメリカ軍に多大な損害を与えて進撃を遅滞させてきたが、損害は増大し主陣地も逐次圧迫され、第32軍首脳部は今後の戦況の推移に憂慮していた。4月29日に長勇参謀長は八原ら参謀を集め「今後の戦況の見通しと軍の攻勢」について幕僚会議を開いた。その席で長は「現状をもって推移すれば、軍の戦力は蝋燭のごとく消磨し、軍の運命が尽きることは明白、攻撃戦力を保有している時期に攻勢を採り、運命の打開をすべき」と反転攻勢を主張した。八原は「攻勢をとれば全滅の運命は必至という状況を冷静に受け入れ、今までの戦略持久を堅持すべきである」「防御陣地を捨てて攻勢に転じても圧倒的火力優勢なアメリカ軍を撃退することは不可能であり、失敗すれば戦略持久すら不可能となり、本土攻撃までの持久日数が短小となる」「絶体優勢な米軍に攻勢をとれば、損害の比は日本軍がアメリカ軍の5倍となる」などを強く主張し反対したが、他の参謀らは長を熱烈に支持した。日本軍の長年の伝統は攻勢至上主義であり、それを常々疑問に思っていた八原は、その伝統に捉われ攻勢に転じようとする司令部内の空気を「司令部内に、再び狂風吹き始めたり。警戒を要す」とメモに書き記している。司令官の牛島も、かねてからの中央からの督戦に気を病んでおり、長らの攻勢の意見を取り上げ同日に総攻撃を決定した。5月1日には最後まで反対していた八原を呼び「既に軍は全運命を賭けて攻勢に決したのだから、よろしく気分一新し、全軍の気勢を殺がぬよう注意せよ」と温厚な牛島にしては異例の叱責を行っている。八原はこの牛島の叱責は長の策動によるものと察し、「これは、無意味な自殺的攻撃に過ぎぬものと思います。しかし、既に閣下がご決心になったことでありますので、私としては、その職責に鑑み、全力を尽くしております」と答えたが、牛島は八原の暴言に怒ることもなく「もちろん玉砕攻撃である。吾輩も、最後には軍刀を振って突撃する考えである」と言葉静かに諭した。作戦会議決定により5月3日夜に、日本軍は反転攻勢に転じた。第32軍は、温存していた砲兵隊により5,000発のかってない規模でアメリカ軍に砲撃を浴びせ、砲撃の支援下で第24師団と戦車第27連隊などを繰り出して普天間付近までの戦線回復を図った。船舶工兵第23、26連隊が残存の上陸用舟艇、大発動艇に乗船し海上を迂回してアメリカ軍背後に逆上陸を試みることとした。逆上陸作戦には、1945年4月27日にハッチンス（駆逐艦）を大破放棄の戦果を挙げてからは、組織的な戦闘力を喪失していた海上挺進第26-29戦隊が、特攻艇のマルレの残存艇を使用して参加の他に、沖縄の漁民が操縦するサバニ多数も投入することとした。第5航空艦隊司令宇垣纏は総攻撃援護のため、九州及び台湾の陸海軍全航空戦力を投入することを決定、同日「菊水五号作戦」と「第六次航空総攻撃」を発令し、大量の特攻機を出撃させた。日本軍の猛烈な砲撃にアメリカ軍は一時混乱に陥ったが、あらゆる火砲や火器を集中して総攻撃してきた日本軍を攻撃し、日本兵は得意の白兵戦に持ち込む事もできずバタバタと斃された。アメリカ軍の重砲隊は日本軍の退路にも激しく砲撃し、日本軍は退路を断たれて損害が増大した。また、日本の戦車第27連隊は九七式中戦車（新砲塔型を含む）と九五式軽戦車の殆どが撃破され、残存戦車6両となり連隊はほぼ壊滅した。船舶工兵第23、26連隊、海上挺進第26-29戦隊などの逆上陸部隊は、東西2手に分れ逆上陸を目指すこととなったが、主力の西海岸上陸部隊（700名）が那覇桟橋を出港し、牧港と嘉手納に向け海上を進行中に、陸上のアメリカ軍の第1海兵師団の第1海兵連隊に発見された。第1海兵連隊は海上に向けて迫撃砲での砲撃を含め激しく攻撃してきたうえに、水陸両用戦車LVT(A)-1が海上まで進んできて、車載37㎜砲で兵士ごと船舶を撃沈していった。生き延びた日本兵はやむなく海岸から上陸したが、そこでも第1海兵連隊の激しい追撃により、合計443名の戦死者を出し壊滅した。それでも、第1海兵師団は背後に日本軍が上陸すると孤立してしまうため、師団は混乱し、日本軍の空挺部隊が降下してくるという偽情報に振り回され、屈強な海兵隊兵士らも、夜間に上空に飛来する航空機の音に怯えながら、一睡もすることなく朝を迎えることとなった。東海岸上陸部隊（200名）は70隻のサバニに分乗した上陸兵を20隻のマルレが援護する編成であったが、与那原を出発して中城湾を航行中に、パトロール中の駆潜艇に発見され、攻撃を受けて次々と撃沈された。その後に第7師団所属の水陸両用戦車LVT(A)-1も攻撃に加わり、サバニ部隊は壊滅した。生き残ったマルレは、中城湾に停泊していたカリーナ（攻撃輸送艦） に突入し大破させた。これが日本軍の特攻艇による最後の戦果となったが、西海岸上陸部隊も106名の兵士と多数の沖縄漁民の戦死者を出して壊滅し、東西海岸への逆上陸作戦は失敗に終わった。翌5月4日も日本軍の攻撃は続き、日本軍の砲撃は、アメリカ軍が太平洋戦線で受けたことがない規模となる13,000発にもなったが、アメリカ軍は日本軍の発砲地点を観測機により発見して効果的に反撃し、対砲兵戦により59門を破壊したと記録しており、大きな損害を被った日本軍の砲兵隊は、この後はまた隠匿した陣地に引き籠りざるを得なくなり、支援砲撃は大幅に弱体化した。昨夜に引き続き日本軍はアメリカ軍の圧倒的な火力の前に膨大な死傷者を出しながらも、一部の部隊はアメリカ軍の前線の突破に成功している。中でも前田高地で活躍していた第24師団歩兵第32連隊の第1大隊が棚原高地を奪還した。このため、アメリカ第7師団第17連隊は補給路を断たれることとなり、日本軍総攻撃での数少ない成果となった。これまでに日本軍の戦死者は6,237名にも及び、殆ど無傷の予備兵力であった第24師団も大打撃をうけ、隷下の歩兵第32連隊などは戦力が30%以下となるなど大損害を被った。一方でアメリカ軍の損害は、陸軍師団で714人、第1海兵師団で352人の合計1,067人の死傷者であったが、これは攻勢反対意見を述べた際の八原の予想通りの損害比率であった。5月4日夜には攻撃の失敗は明らかで、長をはじめ、攻勢を主張していた軍首脳部はうなだれて一言も発することができない状況だった。翌5日に、全軍玉砕覚悟し総攻撃を敢行するか否か牛島の決断がせまられたが、八原はこの時の司令部の状況を、「地上戦闘に対する認識が浅い。中国軍相手や太平洋戦争初期の戦闘経験に捉われ、比較を絶する強大な火力部隊に対する心構えが乏しく不十分だ。死を賛美しすぎ、死が一切を美しく解決すると思いこんでいる。」と厳しく評価している。5日に牛島は長を介さず、直に八原を呼ぶと、目に涙を浮かべながら謝罪し、今後は八原の助言を重んじると告げている。牛島はその際に「今後は一切を貴官に任せる。思う存分やってくれ」と軍の指揮を八原の方針に一任するとし、これまで対立してきた長もこの日以降は「八原、俺の切腹の時期はまだ来ないか？」と冗談とも本気ともつかぬ口癖で、八原の方針に従うようになった。八原は牛島の一任を受けると直ちに総攻撃中止の軍命令を発し、棚原高地を確保していた第32連隊第1大隊も撤退した。総攻撃の失敗により、沖縄戦は二週間以上短縮されたと分析されているが、この結果からアメリカ陸軍は、この総攻撃の提案者の長に対し、「5月4日から5日にかけての日本軍の反撃は、長より八原の戦術の方が優れている事を示した。長が自信過剰になって思い付き、不適切に実行した攻撃は、途方もない大失態だった」と厳しい評価をしている。一方で総攻撃への空からの援護であった特攻は、相応の戦果を挙げており、駆逐艦「モリソン」「ルース」、中型揚陸艦LSM(R)-190およびLSM(R)-194が撃沈され、護衛空母「サンガモン」、軽巡洋艦「バーミングハム」が大破するなど17隻が撃沈破され682名の死傷者を出した。この内「バーミンガム」への特攻の瞬間は、地上で戦っていた第1海兵師団からも目撃できたという。第32軍の総攻撃失敗から数日後の5月8日にナチスドイツが無条件降伏したが、沖縄のアメリカ兵たちは誰も大して関心を払わなかった。ナチスドイツが降伏しようが、総攻撃失敗で大損害を被ろうが日本軍は今までの様に沖縄でも全滅するまで戦うだろうと確信しており、元海兵隊員で戦後に生物学者となったユージーン・スレッジは当時「ナチスドイツなど月より遠い話だ」と考えたと回想している。海兵隊員らの予想通り、この後日本軍は八原の作戦指揮の下、無謀な攻撃はせず、徹底した持久戦術をとった為、アメリカ軍の損害が増大していった。