已传出乐团大部分成员投票赞成卡拉扬成为他们第四任常任指挥的消息。而等到他和乐团返德之后几天，其任命被柏林政府确认。卡拉扬再一次被问道，他是否愿意继承福特万格勒衣钵，带领柏林爱乐乐团。他回答道：“万分欢喜地接受。”于是，柏林爱乐的权杖历经汉斯·冯·彪罗，尼基什和福特万格勒，终于传到卡拉扬手上。
欧洲音乐总指导.1956年到1971年，卡拉扬在欧洲炙手可热。他先是出任了萨尔茨堡音乐节艺术指导，历时4年。在1957年，除了率领柏林爱乐乐团首次访问日本之外，他还接受聘任成为维也纳国家歌剧院