日中战争之前任京城医学専门学校和京城药学専门学校的配属将校，学校是为日军军官隶属负责军事教育，进行战争准备。1937年中日战争爆发，李应俊被派往师团司令部和华北派遣军司令部任职，负责后勤事务和补给线运输业务等，并多次亲自参与战斗。还担任了围剿山东省八路军的指挥官职务。1941年晋升为大佐，战争扩大以后，日军兵力不足，征兵条件变得困难。李应俊积极支持1943年的征兵制，他举行演讲会，出席并宣传女性志愿兵制度，成为动员参军的积极分子。日本政府在1935年和1939年授予他勲四等瑞宝章和勲三等瑞宝章。