《程序内存》是诺伊曼的另一杰作。通过对ENIAC的考察,诺伊曼敏锐地抓住了它的最大弱点--没有真正的存储器。ENIAC只在20个暂存器,它的程序是外插型的,指令存储在计算机的其他电路中。这样,解题之前,必需先想好所需的全部指令,通过手工把相应的电路联通。这种准备工作要花几小时甚至几天时间,而计算本身只需几分钟。计算的高速与程序的手工存在着很大的矛盾。针对这个问题,诺伊曼提出了程序内存的思想:把运算程序存在机器的存储器中,程序设计员只需要在存储器中寻找运算指令,机器就会自行计算,这样,就不必每个问题都重新编程,从而大大加快了运算进程。这一思想标志着自动运算的实现,标志着电子计算机的成熟,已成为电子计算机设计的基本原则。1946年7,8月间,冯·诺依曼和戈尔德斯廷、勃克斯在ENIAC方案的基础上,为普林斯顿大学高级研究所研制IAS计算机时,又提出了一个更加完善的设计报告《电子计算机逻辑设计初探》.以上两份既有理论又有具体设计的文件,首次在全世界掀起了一股“计算机热”,它们的综合设计思想,便是著名的“冯·诺依曼机”,其中心就是有存储程序原则--指令和数据一起存储(存储机)。这个概念被誉为“计算机发展史上的一个里程碑”。它标志着电子计算机时代的真正开始,指导着以后的计算机设计。自然一切事物总是在发展着的,随着科学技术的进步,今天人们又认识到“冯·诺依曼机”的不足,它妨碍着计算机速度的进一步提高,而提出了“非冯·诺依曼机”的设想。冯·诺依曼还积极参与了推广应用计算机的工作,对如何编制程序及搞数值计算都作出了杰出的贡献。冯·诺依曼于1937年获美国数学会的波策奖;1938年获得博谢纪念奖;1947年获美国总统的功勋奖章、美国海军优秀公民服务奖;1956年获美国总统的自由奖章和费米奖。