Nordenskiöld aloitti 13-vuotiaana Porvoon lukion, josta hän tosin erosi kolmen vuoden kuluttua useiden muiden oppilaiden tavoin rehtorina toimineen J. L. Runebergin ankaruuden vuoksi. Nordenskiöld kirjoitti ylioppilaaksi vuonna 1849 ja opiskeli Helsingin yliopistossa mineralogiaa, matematiikkaa, kemiaa sekä fysiikkaa ja valmistui kandidaatiksi 1853 sekä maisteriksi 1854. Ensimmäisen tieteellisen työnsä hän kirjoitti nilviäisistä. Hän toimi Viipurilaisessa osakunnassa, ja vuonna 1854 hänestä tuli yliopiston fyysis-matemaattisen tiedekunnan kuraattori. Vuoden 1855 alussa Nordenskiöld väitteli tohtoriksi aiheesta "Om grafitens och chondroditens kristallformer". Hän teki opiskeluvuosinaan kesäisin malminetsintäretkiä ympäri Suomea ja julkaisi valmistumisensa jälkeen 1855 Suomen malmiesiintymiä käsitelleen selonteon "Beskrifning öfver de i Finland funna mineralier". Samana vuonna hänet nimitettiin vuori-intendentin konttorin vuorikonduktöörin virkaan. Nordenskiöldin lupaava tieteellinen ura Suomessa kuitenkin katkesi, kun hän joutui venäläisten epäsuosioon. Hän kuului nimittäin K. G. Wetterhoffin johtamaan ryhmään liberaalisti ajattelevia aristokraattisia ylioppilaita, jotka olivat poliittisesti Ruotsiin suuntautuneita ja vastustivat tiukkaan kontrolliin nojannutta yliopiston ja koko maan hallintoa. Nordenskiöld osallistui marraskuussa 1855 erääseen tämän piirin illanviettoon Töölön ravintolassa, jossa keskusteltiin alkaneesta Krimin sodasta ja tiettävästi kohotettiin maljoja Venäjän vihollisille. "Töölön päivällisinä" tunnetun tapauksen tultua julki osallistujia rangaistiin ja Nordenskiöldkin erotettiin virastaan ja kuraattorin tehtävästä. Hänet erotettiin myös koko yliopistosta seuraavan kevätlukukauden ajaksi, joten hän siirtyi siksi aikaa Berliiniin opiskelemaan kemiaa.