I 1944 møtte von Neumann for første gang Herman Goldstine, på en jernbanestasjon i Aberdeen i Maryland. Militæret hadde her er treningsområde for utprøving av våpenteknologi. Goldstine hadde ansvaret for kontakten mellom det militære og University of Pennsylvania, i forbindelse med byggingen av den såkalte ENIAC-maskinen. ENIAC var et akronym for «Electronic Numerical Integrator And Computer», og maskinen regnes i dag som den første programmerbare generelle datamaskin. Offentligheten fikk først kjennskap til ENIAC i 1946. Goldstine og von Neumann kom etter hvert til å samarbeide tett om utvikling av datateknologi og numeriske metoder.