成美于1889年（明治22年）12月9日出生于宫城县仙台市，其父是经营葡萄园的旧幕臣井上嘉矩。“成美”一名由来取自《论语·颜渊》：“君子成人之美，不成人之恶，小人反是。” 井上成美从小立誓不愧为“海国男儿”。1906年11月24日从中学退学考入江田岛海军兵学校第37期，成绩181人中排名第9，1909年11月19日毕业成绩为179人中排名第2，受赐奖品望远镜。以少尉候补生的身份先后在巡洋舰“宗谷”、战列舰“三笠”、装甲巡洋舰“春日”上实习，于1910年12月15日任海军少尉，海兵37期的最先任者。191