Allerede som tolvåring begynte Ross sin tjeneste i Royal Navy og i 1818 deltok han i en ekspedisjon under ledelse av sin onkel John Ross, som lette etter Nordvestpassasjen. Mellom 1819 og 1825 deltok Ross i flere polarekspedisjoner under ledelse av William Edward Parry, også disse ekspedisjonene langs nordvestpassasjen. I 1827 gjorde Parry og Ross et forsøk på å nå den geografiske nordpolen. Parry trodde at Nordishavet bare inneholdt en mindre stripe av is og derfor ble mindre båter lastet på sleder som ble trukket over isen. Ved 82° nordlig bredde ble de tvunget til å gjøre vendereis.