长、陆军次官、第5师团师团长、关东军参谋长等职。1942年，出任朝鲜总督，在朝鲜推行内鲜一体教育，宣传朝鲜人与日本人同根同族，多次镇压朝鲜人民的抗日活动。1944年7月22日，在内外交困中，小矶继东条英机之后出任内阁总理大臣，任期内曾一度主张利用缪斌与重庆国民政府谈和。但是外务大臣重光葵、陆军大臣杉山元、海军大臣米内光政均对缪斌同蒋中正的联系表示怀疑，反对通过缪斌进行谈判。小矶则继续进行交涉，并在4月2日拜谒昭和天皇时向天皇进言留下缪斌进行谈判。但天皇对此不感兴趣。4月3日，天皇告诉重光葵自己不信任