945年结束，但盟军对其前纳粹党员的身份要进行调查，再加上富特文格勒的阻挠，卡拉扬的半退休状态似还没有尽头。他被禁止在德国和奥地利演出。不过有一次例外：1946年1月12日卡拉扬在维也纳爱乐之友协会与维也纳爱乐乐团合作。本来他还被邀请去指挥莫扎特的《费加罗的婚礼》和理查·施特劳斯的《玫瑰骑士》（Der Rosenkavalier，又译：蔷薇骑士），但演出就在最后一刻在苏联方面的坚持下被迫取消。这段时间可谓是卡拉扬最灰暗的日子。在占领区受审期间，他曾被亨利·阿特（）要求在四周内禁止离开维也纳。但卡拉扬说道，自