明治2年（1869年），就任军务官副知事，成为军制改革的中心，在兵制会议中主张创设不依靠藩兵的政府直属军队，和大久保利通对立。官制改革后，仁和寺宫嘉彰亲王作为名义上的兵部卿（大臣），大村身为兵部省的兵部大辅（次官）在事实上指导近代日本的军制建设。同年在京都三条木屋町的旅馆遇刺，在大坂的病院过世，追赠从三位。