奥斯特洛夫斯基的父亲马克是一个商人。他早年在基辅商业大学就读时，过人的数学天赋不为人知。然而，他写信给爱德蒙·兰道和库尔特·亨泽尔后，于1912年在马尔堡大学开始学习数学，并得到亨泽尔的指导。第一次世界大战结束后，奥斯特洛夫斯基来到哥廷根，师从于大卫·希尔伯特，菲利克斯·克莱因和兰道。奥斯特洛夫斯基获得博士学位后，1920年移居汉堡，他担任埃里希·赫克的助手。奥斯特洛夫斯基在1922年得到特许任教资格，之后在巴塞尔教授数学。