Efrem Zimbalist nació en el suroeste de Rusia de la ciudad de Rostov del Don (Rostov-na-Donu), hijo de Maria Litvinoff y Aron Zimbalist, este último director de orquesta.