平清九郎的文书中记载为「かち山」。江户时代，此地原为天领，1633年（寛永10年）成为彦根藩井伊氏领地。南部为彦根藩御林，用来收集薪材。八幡山遗迹中曾发现江户时代初期的炭窑遗迹。庆安年间，移居船桥村的岛田五兵卫开拓此地，成立八幡山村。1889年（明治22年），此地为千岁村大字。1936年（昭和11年），为世田谷区八幡町。1970年（昭和45年）实施住居表示，成立八幡山一～三丁目。
地名由来.村子南方是森林遍布的台地。台地上建有八幡神社而得名。