用群的观点来确定多项式方程的可解性。伽罗瓦首次使用了术语“群”，并在新生的群的理论与域论之间建立起了联系。这套理论现在被称为伽罗瓦理论。阿瑟·凯莱和奥古斯丁·路易·柯西进一步发展了这些研究，创立了置换群理论。群论的第三个主要历史渊源来自几何。群论在射影几何中首次显示出它的重要性，并在之后的非欧几何中起到了作用。菲利克斯·克莱因用群论的观点，在不同的几何学（如欧几里德几何、双曲几何、射影几何）之间建立了联系，即爱尔兰根纲领。1884年，索菲斯·李开始研究分析学问题中出现的群（现在称为李群）。属于不同领