从1990年代初期开始，随着新一代的东风4B型、东风4D型等新型客运机车相继出现，东方红3型机车亦开始退居二线，部分机车转至大连、长春、丹东、吉林、通辽、本溪、图们、鸡西、佳木斯等地的机务段使用，担当拉滨铁路、牡佳铁路、齐北铁路、平齐铁路、富西铁路、长白铁路等线路的旅客列车和市郊列车牵引任务。2000年代初，东方红3型机车陆续停运报废。2005年，最后一批在干线上运行的东方红3型机车于在拉滨铁路和吉舒铁路上退役。值得一提，哈尔滨铁路局于1999年引进北亚号柴油动车组后，当该列车的动力车发生故障或进行检修而