6月30日に戦車第4連隊の九五式軽戦車中隊がソ連第11戦車旅団の対戦車砲と初めて交戦した。そこでソ連軍の53-K 45mm対戦車砲の砲撃により95式軽戦車1輌が撃破された。その対戦車砲と砲弾200発は日本軍に鹵獲されたが、その弾速の速さに日本軍戦車将校たちは「閃光を見るか見ないうちに我が方の戦車に穴が開いていた」と衝撃を受け、第4連隊の玉田美郎連隊長は「敵の兵器の性能は我が方より優れており、敵の資質は予想していたより遥かに高い」と悟らされた。7月2日、第1次ノモンハン事件で消極的な戦い方で非難を受けていた山県率いる歩兵第64連隊が、ハルハ河東岸のソ連軍に対し攻撃を開始したが、進撃を開始するや、ソ連軍の砲兵2個連隊の激しい砲撃に前進を停止させられた。特に西岸の砲兵陣地に設置されていたノモンハンでは初めて投入されたML-20 152mm榴弾砲の威力は絶大で、2時間に渡って砲撃を受け続けた第64連隊の兵士らは「筆舌に尽くしがたい敵の弾幕に恐れを抱いた」、「ソ連軍の砲撃は中国で経験したことのない効果的なものであった」との感想を抱き、日本軍の第13砲兵連隊も阻止射撃が強力過ぎて、効果的な反撃ができなかった。吉丸清武大佐率いる戦車第3連隊は、歩兵支援のために夕刻6時15分から前進開始、ソ連軍砲兵陣地の撃滅を目指したが、降りはじめた雨が目隠しとなり、8時ごろに最右翼を進む第1中隊が砲兵陣地に突入成功し、野砲2門撃破、2門を捕獲した。しかしピアノ線鉄条網に引っかかって行動不能となった装甲車2輌が対戦車砲の直撃を受け撃破された。第4小隊長の古賀康男少尉は撃破された九七式軽装甲車の車載機銃を下ろして、包囲したソ連兵相手に戦い、激闘1時間30分、最後は拳銃まで撃ち尽くして戦死している。連隊長の吉丸も新型の九七式中戦車に自ら搭乗し攻撃の先頭に立って装甲車や野砲を撃破したが、機械化部隊とは名ばかりで、十分な自動車が無い歩兵第64連隊や輓馬が引く砲兵隊は戦車に付いていくことができず、折角蹂躙したソ連軍陣地を戦車単独では確保することはできないため、後退を余儀なくされた。安岡は日中はソ連軍の砲撃が激しいため、夜襲を行うこととし、戦車第4連隊は7月2日から3日の夜間に、戦史上初のまとまった戦車部隊での夜襲となったバルシャガル高地攻撃を行った。暗闇と雷雨にまぎれて突入した第4連隊の八九式中戦車9輌、九五式軽戦車28輌、94式軽装甲車3輌の内、日本軍の損失は95式軽戦車1輌に対し（行動不能となったが回収できず放棄、後にソ連軍が鹵獲）ソ連軍戦車2輌・装甲車10輌・トラックを20台・砲多数を撃破し、ソ連軍防御陣地の奥深くまで突破するなど活躍を見せている。ハルハ河周辺を巡る7月の戦いで、ソ連・モンゴル軍は合計で452輌の戦車・装甲車を投入したのに対し、日本軍が投入した戦車・装甲車は92輌と5分の1の数であったが、この時点でハルハ河東岸に配備されていたソ連・モンゴル軍は3,200名の兵員に、122mm榴弾砲8門を含む重砲・野砲28門、対戦車砲7門、装甲車62輌、それに第11戦車旅団から分遣された戦車30輌と、攻める安岡支隊の兵力のほうがやや勝っていた。日本軍による戦果判定ではその内300名の兵士を死傷させ、20輌の戦車と多数の砲を破壊し、ハルハ河東岸のソ連軍陣地は相当に弱体化しており、ソ連軍、モンゴル軍は、猛攻してくる日本軍の戦力を将兵38,000人、砲310門、戦車装甲車200輌と何倍にも過大評価するほど厳しい戦況となっていたが、東岸のソ連軍陣地を援護できる位置には152mm榴弾砲12門、122mm榴弾砲8門、76mm野砲・連隊砲14門が配置され、また予備戦力であった第11戦車旅団と自動車化狙撃兵連隊と装甲車旅団がタムスク近辺から戦場に急行しており、早急にソ連軍東岸陣地を攻略する必要があった。前日、ソ連軍の野砲陣地を襲撃し大戦果を挙げていた戦車第3連隊は、翌3日の日中にソ連軍陣地に正面攻撃をかけた。途中で遭遇した装甲車隊を殲滅し、反撃してきたBT-5や装甲車計20輌との戦車戦で、2輌の八九式中戦車を失いながら3輌のBT-5を撃破し撃退したが、実際に交戦してみると、日本軍側の予想以上にソ連軍の戦車の性能がよく、ソ連軍の戦車砲の射程が長く、また遠距離から日本軍戦車の砲塔の装甲板を易々と貫通することに衝撃を受けている。やがて防衛線に近づくと、巧みに擬装された対戦車砲の激しい砲撃を浴び、損害が増加していった。また陣前に張られたピアノ線鉄条網に履帯を絡めとられた戦車は行動不能となったが、そこを戦車と対戦車砲に狙い撃たれ、連隊長の吉丸大佐の搭乗する九七式中戦車が撃破され、吉丸は戦死した。ソ連軍戦車も加わった集中砲火の中で、日本軍戦車は次々と命中弾を浴びたが、日本軍戦車の多くがディーゼルエンジンであり、命中弾があっても容易に炎上せず、装甲は薄いながらも予想外の打たれ強さで窮地の中でも善戦し、ソ連軍戦車32輌と装甲車35輌を撃破したが、日本軍は13輌の戦車と5輌の装甲車を撃破され、撤退を余儀なくされた。防衛していたソ連の連隊指揮官は初の大規模な日本軍戦車攻撃を撃退し、司令部に喜びのあまり「日本戦車を食い止めました、奴らは次々に燃え上がっています。ウラー（万歳）」と興奮した報告を行っている。この戦闘は後に「ピアノ線の悪夢」と呼ばれることとなった。3日に撃破された日本軍戦車の多くは回収され、後日に修理され部隊復帰したが、4日の時点では戦車第3連隊は戦闘力を喪失しており、第4連隊のみとなった日本軍戦車部隊は攻勢を取れず、逆に増援が到着したソ連軍戦車・装甲車部隊の執拗な反撃を受けることとなった。4日午前には戦車・装甲車19輌、対戦車砲数門と歩兵500名のソ連軍が攻撃してきたが、戦車第4連隊はこれまでの戦訓を活かし、装甲の弱さを補うため、砲塔のみを丘の稜線上に出して砲撃を加えた。乗員の練度は日本軍が圧倒的に上回っており数も主砲の威力も勝るソ連軍戦車に次々と命中弾を与え、装甲車2輌と対戦車砲数門を撃破し撃退している。日本軍の損害は八九式中戦車1輌の損傷のみであった。午後8時にも戦車5輌と歩兵の攻撃に対し2輌の戦車を撃破し撃退すると、午後9時には、戦車第4連隊の総力でハイラースティーン（ホルステン）川河谷を攻撃し、ソ連軍戦車4輌を撃破している。翌5日も執拗なソ連軍の混成部隊の攻撃を何度も撃退したが、6日になると更に数を増したソ連軍から、夜明け直前から断続的に猛攻が加えられた。それまでの激闘で戦車第4連隊は、八九式中戦車4輌、九五式軽戦車20輌、94式軽装甲車4輌まで戦力が減っており、ソ連軍から鹵獲した対戦車砲まで戦闘につぎ込んで、ソ連軍の攻撃があるたびに数輌の戦車や装甲車を撃破し撃退し続けたが、第4連隊の損害も大きく、八九式中戦車は全滅、九五式軽戦車も5輌が撃破もしくは損傷し、戦闘力が著しく損なわれた。その状況を見た安岡支隊長から、6日の午後4時に「後方支援部隊の位置まで転進し、以後の行動まで準備せよ」との命令が下り、連隊長の玉田は命令通り転進して今後の出撃に備えることとしたが、7月9日には戦車の完全喪失が30輌に達したことを知った関東軍が、このままでは虎の子の戦車部隊が壊滅すると懸念し「7月10日朝をもって戦車支隊を解散すること」との両連隊に対する引き揚げを命じた。小松原や安岡はこの命令を不服とし、現地軍首脳と関東軍司令部でひと悶着起こったが、ノモンハンでの日本軍戦車隊の戦績はここで終局をむかえることとなった。戦車第3連隊は343名の兵員の内、吉丸連隊長を含む47名が戦死し戦車15輌を喪失、戦車第4連隊は561名の内28名戦死し戦車15輌喪失し戦場を後にした。