Steinberg permaneció al frente de dicha orquesta casi hasta el fin de sus días, aunque alternó esta labor con la director invitado de la Orquesta Filarmónica de Londres (1958-1960) y de la Orquesta Filarmónica de Nueva York (1966-1968).