知小津高等学校、广岛陆军幼年学校、陆军中央幼年学校、陆军士官学校（18期）毕业。1912年至1913年任官步兵中尉，担任陆军步兵学校附。日本陆军大学（28期）毕业后，留学瑞士、德国，回国后、历任陆军省军事课长、军事调查部长等职。在二二六事件当中，同情以皇道派的干部为主的叛乱部队。事件收拾后，山下曾经决心退伍，却被陆军大臣川岛义之挽留，转任朝鲜龙山的歩兵第四十旅团长，离开了陆军省。1939年9月23日就任大坂第4师团长。
马来之虎.太平洋战争初期，1941年7月17日就任关东防卫