警视厅巡査，明治八年（1875年）2月进入陆军士官学校就读。之后历经少尉试补、工兵少尉（工兵第1大队），于明治十一年（1878年）12月从陆军士官学校（旧1期）毕业。毕业后山根武亮任职于参谋本部（至大清帝国出勤），曾待过参谋本部管西局、清国差遣，前往德国出差，并于德国与奥地利留学，后担任工兵第1大队长、参谋本部第1局员等等职务，甲午战争时以第2军兵站参谋长身分参战。在这之后于乙未战争时以临时台湾铁道队队长的身分到台湾。此后他又担任过第6师团参谋长、第12师团参谋长等等职位，于明治卅三年（1900年）