日治明治三十四年）11月，全台废县厅改设二十厅，该庄隶属于新竹厅。1909年（明治四十二年）10月，合併二十厅为十二厅，该庄隶属不变。1920年（大正九年），废十二厅改设五州二厅，该庄改制为「大山背」大字，隶属于新竹州竹东郡横山庄。战后横山庄改制为横山乡，隶属于新竹县，大字亦改制为村。1950年桃、竹、苗分治，横山乡隶属不变。
交通.乡道竹34线是崁头至大山背的道路，其东侧端点在大山背地区东部边界地带的乡道竹35线路口，向西北沿边界可经头份林前往横山地区的崁头并止于乡道竹33线