自称其先世为辽东（治今辽宁辽阳东北）慕容部人，可朱浑氏世为渠帅。归顺北魏，曾祖父可朱浑护野肱为怀朔镇将，遂居家怀朔镇（今内蒙固阳西南）。可朱浑元家世显贵，为人宽厚持重，有武略，善于御众，自幼便与高欢相识。六镇之乱爆发，率家族赴定州，参加鲜于修礼的起义军。葛荣吸收鲜于修礼的部众人，可朱浑元被封为梁王。可朱浑元后来投奔尔朱荣，为别将。隶属尔朱天光征关中，和万俟丑奴作战，以功封东县伯，魏孝武帝时，累迁渭州刺史。534年，侯莫陈悦杀害贺拔岳，宇文泰率领贺拔岳的部下攻打侯莫陈悦。可朱浑元援助侯莫陈悦，最终侯莫陈悦