一个“冯”字（von）是家族两次被册封为准男爵的结果。第一次是在1792年6月1日德国开姆尼茨，当时的萨克森选帝侯腓特烈·奥古斯都三世因乔治兄弟在纺织业所做出的成就而授予他们爵位，姓氏Karajánnis就此改为Karajan。 第二次则是在奥地利，哈布斯堡皇朝为了表彰卡拉扬家族对帝国健康事业所做出的贡献而给家族再封头衔。音乐学家所撰写的卡拉扬传记里，认为卡拉扬的母亲玛塔‧科斯玛姬具有塞尔维亚，或根本只有斯拉夫的血统。虽然卡拉扬的家族为母系家庭，卡拉扬的祖父生于卡尼奥拉公国（今斯洛维尼亚）的地区的小城镇