Geometri var det andre feltet hvor grupper ble brukt systematisk. Dette var spesielt en sentral del av Kleins Erlangen-program fra 1872. Etter som hyperbolsk og projektiv geometri ble oppdaget, brukte Klein gruppeteori til å systematisere dem. Lie hadde nær kontakt med Klein i disse årene og begynte å studere kontinuerlige grupper i forbindelse med transformasjoner av differensialligninger. Siden har disse gruppene blitt omtalt som Lie-grupper.