年9月18日，JR东海最后一班以0系服务的定期班次——「回声」473号（Y8编组）完成后，0系正式退出东海道新干线服务。Y8编组其后被用作来往新大坂站和「」，运送车长和职员的回厂列车，一直到2008年才真正的退役。至于JR西日本的0系列车，则继续服务山阳新干线。但同样地，0系列车服务的班次逐渐被新型车辆取代，0系其后被缩编为4辆或6辆编组，服务线内运行距离较短的班次。进入2000年代，绝大部分0系车辆已经退役。2007年12月19日，JR西日本宣布于2008年11月30日让0系退出定期班次的服务。此后于