Norelius ble olympisk mester i svømming under OL 1924 i Paris. Hun vant 400 meter fri for damer med tiden 6.02,2, ny olympisk rekord. Fire år senere, under OL 1928 i Amsterdam vant hun både 400 meter fri for damer med ny verdensrekord 5.42,8 og hun var også med på laget som vant 4 x 100 meter fri for damer med 4.47,6 som var ny verdensrekord. De andre på laget var Adelaide Lambert, Eleanor Garatti og Albina Osipowich.