Nació en la cosmopolita Odessa, en el Mar Negro, en aquel momento parte de la Rusia zarista (ahora Ucrania), en la modesta familia de Fiódor Davydovič Óistraj e Isabel Stepanovna Kolker, judía y dotados ambos de talento musical (su padre tocaba el violín y algunos instrumentos de viento, la madre era corista).