I 1872–1874 deltok Carlsen som islos for en ekspedisjon ledet av Julius von Payer og Karl Weyprecht; den østerriksk-ungarske polarekspedisjon. Mannskapet ombord på skuta med Julius von Payers ekspedisjon oppdaget Frans Josefs land den 30. august 1873 da ekspedisjonsskipet drev med isen mot øygruppa. Skuta og mannskapet lå fast i drivisen i to år. Frem til mai 1874 utforsket de øyene ved å ta seg over isen på skøyter. Den 15. mai 1874 ble ekspedisjonsskipet oppgitt. Mannskapet ville forsøke å nå åpent hav over isen. Carlsen var visekommandant på den tredje båten. Dette mannskapet bestod av Brosch, Carlsen, Cattarinich, Lettis, Sussich, Marola og Fallesich. Carlsen var den eldste ombord, og viste et lederskap som en beundrende Payer beskrev slik:I Tromsø gikk Carlsen fra borde den 8. september 1874. Egentlig hadde han håpet å vende tilbake gjennom Beringstredet. Med seg hadde han blant annet sin hvite reinsdyrspels, sin parykk og sin hvalrosslanse.