当初，李克用为建立吊军心，纵容军士，使部下很多时会干扰商市，肆意豪夺，令法司也不能禁止。李存勖初嗣位时，锐于求理。李存璋得行其志，抑强抚弱，诛杀其豪首，数月之间，纪纲大振，弭群盗，务耕稼，去姦宄，息幸门，当时的人民都称赞他的材干。李存璋跟从晋王李存勖大破后梁军于夹城，转为检校司徒。柏乡大战中，为三镇排阵使。天祐十一年（914年），从盟朱友谦于猗氏，授为汾州刺史。后梁大将尹皓攻打慈州，李存璋逆战打败他。天祐十三年（916年），王檀进军逼近太原，李存璋率领汾州军入城固守，被授职为大同防御使、应、蔚、朔等州都知兵