Etter tre år i Bergen ble han i oktober 1838 utnevnt til sogneprest i Vadsø. Et hovedmål for flyttingen til Finnmark var å studere samisk og finsk blant de innfødte, for Fritzner hadde ved sine språklige studier fått anelsen av at den språklige påvirkning mellom nordmenn og samer ikke, slik man dengang mente etter Rasks teori, var lån fra samer til nordmenn, men omvendt. Våren 1839 drog han til sitt sognekall og kastet seg med iver inn i den nye virksomhet: Han begynte snart å preke for samer og kvener på samisk og finsk. Fritzners første trykte arbeider kom til å angå samisk språk; det var en kritikk av Stockfleths , skrevet i Vadsø 1845.