生于清朝同治八年三月初十（1869年3月22日），1892年州试中第一名，1893年省试中癸巳科举人。后李素考入保定直隶法政学堂学习法律，毕业后任山西省咨议局议员，省女子学堂董事、山西提学使公署议绅、资政院议员，曾于1909年到北京参加国会请愿运动。庆亲王内阁成立后，身为资政院议员的李素曾在资政院弹劾庆亲王，未成功。此后他加入同盟会。1911年9月，李素自北京回到山西。1911年10月，李素参加辛亥太原起义并任山西军政府参谋，旋即到娘子关参与军事行动四十多天。1911年12月，李素作为山西代表参加在南京