守備兵たちは夜のうちに寝る暇を惜しんで防御施設の構築を急いだ。朝、謝晋元は楊恵敏から教えられた電話番号で上海商工会議所に連絡をとった。主に頑丈な構造と有用性（それまで師司令部であったこと）から選ばれた四行倉庫の立地は、守備隊にとって有利であることがわかった。倉庫は上海共同租界の対岸に位置しており、日本が戦争を避けたがっている欧米諸国の租界に流れ弾が着弾すれば紛争を誘発してしまう恐れがあるため、日本軍はあえて艦砲射撃を要請しなかった。加えて、上海の他の場所で行ったように、日本軍は欧米諸国の面前でマスタードガスを使用する勇気はなかった。午前7時、日本の爆撃機が倉庫上空を旋回したが、租界への誤爆を恐れて爆弾は投下しなかった。爆撃機は四行倉庫からの対空銃火で追い払われた。午前8時、謝晋元は演説を行った将兵の指揮を鼓舞し、防御工事の視察をおこなった。屋上へ来たとき、謝は蘇州河沿いの日本兵の集団に気が付いた（楊瑞符の記憶によれば1km程の距離）。謝は不意に銃をつかむと、即座に日本兵の一人を撃ち倒した。午後3時頃小雨が降り始め、倉庫周辺の火と煙は次第に消えていった。日本軍は主攻を西に集中して攻撃を開始、交通銀行ビルを占領し、倉庫の北側の砲を配置した。その大砲は四行倉庫の分厚い壁を破ることができず、銀行ビルの日本兵は、より高い倉庫屋上の守備兵から制圧射撃であっさり抑えられてしまった。2時間後に日本軍は攻撃を断念したが、まんまと倉庫の電力・水道の供給を遮断した。この日続けざまに、第524団副団長:上官志標に率いられた小グループの中国兵と野戦軍医:湯聘梓が到着し、戦闘に加入した。この間、上海商工会は中国軍守備隊が閘北に残っているという知らせに大いに喜び、このニュースはラジオを通じて瞬く間に広まった。雨の中、群衆が蘇州河南岸に集まり、守備兵達を勇気付けた。トラック1台分以上の援助物資が上海市民から寄付された。夜、トラック数台が倉庫近くまでやってきて、守備兵がトラックに土嚢の壁を作り援助物資を倉庫内へ引き入れた。物資の運搬には4時間かかり、その間中国兵3人が日本軍の銃撃で死亡した。守備兵たちは食料、果物、日用品、市民からの手紙を受け取った。その現場に2人のジャーナリストがやってきたが上級指揮官たちは多忙だったため、 結局記者たちは機関銃連長の雷雄に会えただけであった。謝晋元は、商工会を通して租界のイギリス軍将校と重傷者10名を戦場から移送することを打ち合わせた。イギリス側は同意し、負傷者は夜陰に紛れて運び出された。同夜、商工会は守備兵達のところへ青天白日旗を届けることに決めた。中国軍の団規模の部隊では国旗や軍旗を戦時に携帯しておらず、楊恵敏が旗を四行倉庫へ届けたとき、現場の最高指揮官である謝晋元が自ら受け取った。楊恵敏が兵士たちに作戦を尋ねると、その回答は「死守」することであった。楊恵敏は感動し、全国に知らせるため全兵士の名簿をくれるよう頼んだ。しかしそうすることで彼らの兵力を日本軍に知られてしまうため、謝は情報を公開しようとしなかった。だが同時に、楊恵敏をがっかりさせたくもなかった。その代わりに、彼は第524団のもとの名簿から約800人の名前を書き留めるよう誰かに頼み、それからこの偽の名簿を彼女に渡した。楊瑞符によれば、晩に運び出された負傷兵も兵力について聞かれたら800人と答えるよう命令されていた。こうしたことから「八百壮士」の噂が広まっていった。
物資の不足から補給・増援がままならない中、3月8日、第15軍隷下3個師団（第15、31、33師団）を主力とする日本軍は、予定通りインパール攻略作戦を開始した。日本軍は1個師団（第31師団）を要衝ディマプルとインパールの結節点であるコヒマに進撃させ、残りの2個師団が東、南東、南の3方向よりインパールを目指した。しかし作戦が順調であったのはごく初期のみで（これは連合軍側の重点防御地域でなく最初から放棄地帯とされ、防御を固めたインパールへ日本軍を仕向ける罠であった）、ジャングル地帯での作戦は困難を極めた。牟田口が補給不足打開として考案した、牛・山羊・羊・水牛に荷物を積んだ「駄牛中隊」を編成して共に行軍させ、必要に応じて糧食に転用しようと言ういわゆる「ジンギスカン作戦」は、頼みの家畜の半数がチンドウィン川渡河時に流されて水死、さらに行く手を阻むジャングルや急峻な地形により兵士が食べる前にさらに脱落し、たちまち破綻した。所々にある狭く急な坂では重砲などは分解し人力で運ぶ必要があり兵士らは消耗していった。また3万頭の家畜を引き連れ徒歩で行軍する日本軍は、進撃途上では空からの格好の標的であり、爆撃に晒された家畜は荷物を持ったまま散り散りに逃げ惑ったため、多くの物資が散逸した。このため糧食・弾薬共に欠乏し、火力不足が深刻化、各師団とも前線に展開したころには戦闘力を大きく消耗する結果を招いた。物資が欠乏した各師団は相次いで補給を求めたが、牟田口の第15軍司令部は「これから送るから進撃せよ」「糧は敵に求めよ」と電文を返していたとされる。また、この時期、日本軍に対してイギリス軍が採用した円筒陣地は、円形に構築した陣地の外周を戦車、火砲で防備し、日本軍に包囲されても輸送機から補給物資を空中投下して支え、日本軍が得意とする夜襲、切り込みを完全に撃退した。これに加え、イギリス軍は迫撃砲、機関銃で激しく抵抗したため、あまりの防御の頑強さに、インパール急襲を目的とした軽装備（乙装備）中心の日本軍は歯が立たず、この円筒陣地を「蜂の巣陣地」と呼んだ。皮肉にも日本兵はイギリス軍輸送機の投下した物資（「チャーチル給与」と呼ばれた）を拾って飢えを凌いだため、この物資を拾う決死隊が組織される有様だった。日本軍の攻勢に対して連合軍は、この頃までに確保しつつあったビルマでの制空権を存分に活用して対応した。連合軍航空部隊はイギリス軍第4軍団に近接支援を行う一方、日本軍の集結地点のほか、チンドウィン川に至る交通路を攻撃したが、雨季の到来もこうした作戦行動に影響を及ぼさなかった。また、連合軍は米英両軍のC-47を中心とする輸送機を動員して大量の人員や物資をインパールまで空輸したため、陸路で遮断されていたにもかかわらず補給線は辛うじて確保されていた。戦闘開始当初は、ビルマ戦線にあった連合軍輸送機の多くは援蒋ルートの中でもヒマラヤ山脈を越えて援助物資を輸送する「ハンプ越え」に使用されており、しかもウィンゲート空挺団やアラカン方面の第15軍団の支援にも駆り出され、輸送機が不足した。苦心の末に3月中旬からハンプ越え用輸送機のうち20機を抽出してインパールへの空輸に振り向けたが、なおも不足した。パレル飛行場が酷使による滑走路破損や日本軍のコマンド攻撃で使用不能になったため、インパールの仮設滑走路が頼みの綱であった。第4軍団は食糧を定量の2/3に減らし、インパールに残っていた非戦闘員43000人を空路で脱出させるなどしてしのいだ。その後、イギリス空軍の輸送司令部の改編が効果を上げたことで、第4軍団への補給不足は解消された。