于长野县更级郡牧郷村（今长野市）的一户农家，他是青木善蔵的长男。在高等小学校毕业后，跟从母亲与祖母从事农业工作，后来投奔父亲，以进入长野中学校（今长野县长野高等学校）就读。历经旧制第一高等学校之后，在1916年（大正5年）从东京帝国大学法学部毕业，进入大藏省工作。进入公务机关大藏省后，历经预金部运用课长、藏相秘书官兼秘书课长、理财局国库课长等职。1933年（昭和8年）春，有关外国为替管理法的法案被日本国会通过，同年5月1日施行，青木一男是首代的外国为替管理部长。1982年6月25日，过世。