På skolen gjorde Lie det godt i alle fag, og han viste ikke noen spesielle evner for matematikk i starten. I 1859 begynte han å studere realfag ved Det Kongelige Frederiks Universitet, og i løpet av studiene var han innom fysikk, astronomi, botanikk og zoologi, foruten matematikk. Etter hvert ble han stadig mer interessert i matematikkfaget, og han lånte en rekke bøker ved universitetsbiblioteket. Her ble han blant annet kjent med arbeidene til den tyske matematikeren Julius Plücker. Plücker hadde innført en ny form for analytisk geometri, som Lie viste særlig interesse for. Lie var så opptatt av teoriene til Plücker at han senere sa at han følte seg som Plückers elev, selv om de to aldri møttes.