太宗时开始，就已登上仕途。1036年（李通瑞三年），李常杰因为承父荫，被委任为骑马校尉。1039年，净身（阉割），并于1041年（李干符有道三年），被召入皇宫，担任侍衞及黄门祗候。李圣宗时，更获晋升为太保，以及于1061年（李彰圣嘉庆三年），被调任为清化、乂安等地的察访使，镇压当地的芒族动乱。
参与对占城的战争.占城（又作占婆）为越南李朝南邻。李常杰作为李朝主要军事人物，曾数次参予对占的战事。1069年（李天贶宝象二年，由于当年的农历七月改年号为神武，因此《越史略》列入神武