官吏不敢过门。后来改变为折节好学，遵循法度。开始担任州主簿，在北齐为释褐奉朝请、行台郎中。北齐灭亡，周武帝以他为假淮州刺史。隋文帝受禅，以他为车骑将军领乡兵。后从晋王杨广平陈朝，以功进授开府仪同三司，赐物三千段。宋国公贺若弼很礼敬他。开皇十二年，拜为苏州刺史，赐爵宗城县公。此时江南初平，刘权以恩信安抚，得到民和。隋炀帝嗣位，拜为卫尉卿，进位银青光禄大夫。大业五年，从征吐谷浑，刘权率军出伊吾道，与吐谷浑人相遇，击败了他们。逐北至青海，捕获千余口，乘胜至伏俟城。隋炀帝再令刘权经过曼头、赤水，设置河源郡、积石镇，