Han gikk på Stuyvesant High School i New York, og tross dårlige engelskkunnskaper ble han i 1937 uteksaminert som årgangens beste elev. Han studerte deretter ingeniørvitenskap ved Stevens Institute of Technology, og fikk sin mastergrad innen emnet . Etter Stevens studerte Ansoff ved Brown University og fikk en doktograd i anvendt matematikk innen .