.台湾清治末期至日治初期，中小义地区为一街庄，称为「中小义庄」，隶属于苗栗一堡。该庄北与五谷岗庄为邻，东与蔴齐藔庄、公馆庄为邻，南边为福基庄，西南边为石围墻庄，西边为中心埔庄。1901年（日治明治三十四年）11月，全台废县厅改设二十厅，该庄隶属于苗栗厅。1909年（明治四十二年）10月，合併二十厅为十二厅，该庄改隶属于新竹厅。1920年（大正九年），废十二厅改设五州二厅，该庄改制为「中小义」大字，隶属于新竹州苗栗郡公馆庄。战后公馆庄改制为公馆乡，隶属于新竹县，大字亦改制为村。1950年桃、竹、苗分