土山镇是一个有着2000多年历史的苏北名镇。《三国演义》“屯土山关公约三事”一章中,关公困土山,该土山就是指的土山镇境内的土山。民国十六年(1927年),土山镇为第五区治所。民国十七年(1928年),改土山镇为土山区。民国二十一年(1932年),又改为镇。民国二十七年(1938年),改土山镇为土山市。民国三十七年(1948年),设立邳睢县,土山为邳睢县的治所。1953年,撤销邳睢县,土山属十二区。1957年,建土山镇。1958年,改公社。1983年,建乡。1987年,复建镇。2000年,撤销土山镇、薛集乡,合并设立新的土山镇。