Am Beginn des Zweiten Sino-Japanischen Krieges im März 1937 wurde Ushijima zum Kommandeur der 36. Infanteriebrigade ernannt und zum Generalmajor befördert. Die 36. Brigade verließ Kagoshima Anfang August 1937 und nahm Positionen am Shanhai-Pass in Nordchina ein. Er erhielt den Befehl, gegen die drei Divisionen der chinesischen 14. Armee vorzurücken und diese Eliteverbände zu vernichten, da diese die japanischen Stellungen in der Nähe von Badaling bedrohten. Obwohl Ushijimas Verbände zahlenmäßig stark unterlegen waren, führte er vom 30. August bis zum 13. September eine Reihe von Gefechten und durchbrach die chinesischen Linien. Seine Truppen erreichten bis zum 14. Oktober unter schweren Verlusten die Außenbezirke von Shijiazhuang. Ushijima wurde dafür bekannt, dass er ungeachtet des persönlichen Risikos von den Frontlinien aus führte. Seine 36. Brigade half dann beim Durchbrechen der Sackgasse in Shanghai. Sie nahm eine große Zahl chinesischer Soldaten, die aus der Stadt nach Nanjing fliehen wollten, gefangen. Im Dezember nahm die Brigade Wuhu ein, wo sie überwinterte. Ab Juli 1938 nahm die Brigade an der Schlacht um Wuhan teil. Er gab das Kommando im Dezember 1938 ab und wurde im gleichen Monat bis September 1939 Kommandant der Toyama-Schule der Armee. Vom Dezember 1939 bis Oktober 1941 kommandierte er die 11. Division in Mandschukuo. Für seinen Einsatz bei dem Verband wurde er 1940 mit dem Orden des Heiligen Schatzes und Orden des Goldenen Drachen zweiter Klasse ausgezeichnet. Im Oktober 1941 bis zum April 1942 war er Kommandant der Unteroffiziersschule der Armee.