林祟贤义塾东面，其坟墓当时是一座土墓。1903年，山东巡抚衙门爲武训修缮陵墓、由乡绅建立专祠，并就此事设立纪念碑；在中华民国成立后的1921年，曾担任山东教育厅长的何思源拨款重建武训祠，并为武训制造一尊汉白玉雕像，置于祠堂内。1936年，山东省政府主席韩复榘按照1903年武训专祠的外貌，正式修建武训祠堂；此工程由当地民众捐款支持，一度因日本人侵而延误。武训的土墓亦在1936年改为水泥墓。中华人民共和国成立后的1951年，领导人毛泽东发动对电影《武训传》和武训本人的批判。中共中央华北局宣传部向中共