也是他的主要成就之一，就是他在研究微分方程解的分类时，引入了一般的连续变换群（后人为纪念他，将之命名为李群）。这个群的每个变换以及两个变换之乘积都依赖于参数，而且这种依赖关系是解析的。他还讨论了连续变换群性单位元附近取导数构成的无穷小变换集合。他也注意到李群与李代数之间有着对应关系。他的着作有《变换群理论》（共3卷）。赫尔曼·外尔在他从1922年和1923年的论文中使用李的群论成果，李群在今天的量子力学中也有重要作用。