引功率较低，因此开始被其他性能更好的客运机车取代。随着东方红3型柴油机车投入批量生产，沈阳机务段逐步调出所有东风3型机车。上海铁路局和广州铁路局的东风3型机车，也逐步被从罗马尼亚进口的ND2型柴油机车取代；而自1982年起郑州机务南段也开始大量配属北京型柴油机车。1980年代中期，这些剩余的东风3型机车陆续被改造成东风型货运机车，投入到西南地区的机务段使用，以加快淘汰老旧的蒸汽机车。1983年，柳州铁路局融安机务段配属东风型机车，担当枝柳铁路柳州—融安—怀化站（怀化南）间的客货列车牵引任务。同年，加格达奇和