在音乐上的成功也是公认的，他与乐团合作录制的唱片包括埃尔文·舒尔霍夫的音乐。然而，一系列的政治冲突导致他提前辞职。1994年，捷克爱乐乐团应邀在梵蒂冈举办庆祝罗马天主教徒与犹太人和解的音乐会。然而，邀请的是在美国指挥家的指挥下演出，他已经因与教皇若望保禄二世时期的梵蒂冈关系密切而闻名，后来又因电视转播纪念大屠杀教皇音乐会而闻名。阿尔布雷希特否决了这一约定，表面上是因为乐团太忙，不过其他人猜测拒绝的实际原因是梵蒂冈没有邀请阿尔布雷希特。捷克总统瓦茨拉夫·哈维尔也参与其中，他告诉阿尔布雷希特，他的行为损