动柴油机车一直是昆河铁路、昆石铁路、蒙宝铁路的主力机车，担当所有客运、货运、调车任务。随着机车逐步老化，至1999年后陆续有20台东方红21型机车报废。此外，由于东方红21型机车功率较小，成为提高米轨铁路运能的最大障碍之一。为了寻找替代车型，因此中华人民共和国铁道部于2001年6月，要求四方机车车辆厂研制新一代采用电力传动的东风21型米轨柴油机车。2002年4月，东风21型机车总体设计方案通过了技术设计审查；同年8月完成了施工设计，开始投入试制；同年9月至10月，转向架构架与车体钢结构分别完成了静强度试验。