刘贵是高欢旧交，初为尔朱荣府骑兵参军。刘贵为人刚直有气断，而尔朱荣性情勇勐急躁，刘贵办事、赏罚严峻，深得尔朱荣赏识。528年，参与河阴之变计划，封敷城县伯。官至左将军、太中大夫，有战功封公爵。因受尔朱荣信任，加抚军将军。530年，担任凉州刺史。长广王元晔即位，尔朱世隆掌握政权，刘贵担任征南将军、金紫光禄大夫、尚书左仆射、西道行台，与行台元显恭在正平对峙。刘贵击败元显恭，元显恭被裴儁擒获。刘贵任晋州刺史。531年，转任行汾州事。高欢起兵，刘贵弃城到邺城归顺高欢。532年，以本官任肆州刺史，转任行建州事。5