可说是集日本多年铁路技术大成的产物。1962年，制成两列1000型实验列车，在鸭宫实验线区进行实验，然后再根据实验所得结果改良设计，最终于1963年投产，1964年10月1日和东海道新干线一起投入服务。0系初期只被称为「新干线电车」（），一直到东北、上越新干线的200系投入服务后，才开始被称为「0系」。而官方内部名称是「000系」，但没有对外公佈。0系初期统一以12辆编组运行，服务东海道新干线的「回声」号和「光」号班次。1969年，为了应付来年举办的世界博览会（大坂万博）中可能出现的人潮，日本国铁决定将