百里外进入济南，其余革命军部队也随后到达。这时日军已在市内各马路构筑工事，敷设电网，步步为营。经交涉后，日军于5月2日（一说5月1日）拆除街面上的工事。入城的北伐军人与日本方面多有对立。据第六十五团团长李默庵回忆，第六十四团入城时有士兵扯下日本使馆区的日本国旗，日方因而提出抗议。事件经团长洪士英调解后平息。5月1日晚，蒋介石的总司令部、外交部长黄郛也到达济南（一说5月2日上午九时）。5月2日，第六十五团中有士兵私下零星三两人跑到日本使馆区鸣枪，但并非有组织的行为。5月3日，国军战地政务委员会委员兼外