Etter at ha ryddet området for andre sjørøvere slo han seg i 1881 ned på Hainan, der han misjonerte og underviste blant minoritetsfolkene der. Han bosatte seg i byen nær Haikou, og der kjøpte han Wu-klanens helligdom og innrettet den til en kirke for penger som han oppsparte under sitt opphold der. Samme år som Jeremiassen ankom til Hainan, kartla han øya og vakte en del oppsikt under sine vandringer, da han av folk der ble beskrevet som . Han skrev flere avhandlinger om minoritetsgruppenes språk og kultur og bygde mange kapeller på øya. Jeremiassen er således grunnleggeren av den moderne protestantiske misjon på øya. Hans misjoneringseffekt kan ikke ha vært like sterk overalt; det synes å fremgå av et sitat fra en innbygger på Hainan, som fortalte ham som en fremmed .