州谯郡。年轻的时候因罪受宫刑，补任小黄门，后来任中黄门。因为向魏孝文帝元宏密告孝文幽皇后的隐私，出使徐州、兖州选采美女。历任大长秋卿、金紫光禄大夫、太府卿。他不识文字，只知道署名，但是奸谋有余，善解人意，所以受到魏宣武帝宠信。魏孝明帝封他为长乐县开国公。正光元年（520年），他勾结领军元叉在宣光殿废胡太后，专擅朝政。胡太后被幽禁在北宫，宫门昼夜长闭，内外隔绝，刘腾亲自掌管宫门钥匙，孝明帝也见不到她，她只能等候送饭，衣食短缺，不免饥寒，很后悔重用了刘腾。次年，任司空。他贪财，一年收到利息以巨万计。正光四年（5