收拾后，山下曾经决心退伍，却被陆军大臣川岛义之挽留，转任朝鲜龙山的歩兵第四十旅团长，离开了陆军省。1939年9月23日就任大坂第4师团长。
马来之虎.太平洋战争初期，1941年7月17日就任关东防卫军司令官，11月6日转任第25军司令官，12月8日指挥马来亚作战（史称马来亚战役），率领2个师三万人兵力化整为零採取创新战术脚踏车闪击战，1942年1月31日以大约55天的时间佔领整个马来半岛。1942年2月1日他更进一步攻进新加坡岛，1942年2月15日以大约两週的时间迫使英国