为10世纪时的统治者吴权之后，铭文资料提到李常杰是「细江句漏县」人即今北宁省顺城县，当是后来改籍昇龙太和坊，其父是李太宗时太尉郭盛溢（又作郭盛谥）。李常杰自少就「姿貌扬逸」，并且练骑射，习兵法。在其年青时期，亦即李太宗时开始，就已登上仕途。1036年（李通瑞三年），李常杰因为承父荫，被委任为骑马校尉。1039年，净身（阉割），并于1041年（李干符有道三年），被召入皇宫，担任侍衞及黄门祗候。李圣宗时，更获晋升为太保，以及于1061年（李彰圣嘉庆三年），被调任为清化、乂安等地的察访使，镇压当地的芒族动乱。