因为对汉人歧视颇深且在人前表现得肆无忌惮，因此与高昂不和，有一次高昂大怒，拔刀向刘贵砍去，刘贵逃回自己的军营。539年十一月，刘贵去世。追赠冀定并殷瀛五州军事、太保、太尉公、録尚书事、冀州刺史，谥忠武。
家族.其子刘元孙、刘洪徽。刘元孙官至员外郎、肆州中正，早逝。刘洪徽嗣爵，假仪同三司、奏门下事。