Mathiassen begynte å studere geografi og naturfag, og ble med på en ny utgravning ved Maglemose i 1916. Året etter tok han hovedfagseksamen og søkte arbeid på Nationalmuseet, men fikk ikke det. Isteden ble han med Knud Rasmussen på hans femte Thuleekspedisjon i 1920. Her studerte han gamle inuitboplasser, og han greide å påvise en egen steinbrukende kulturkrets, thulekulturen. Fra 1929 konsentrerte han sin forskning mot Grønlands forhistorie, han fant en stedegen gren av thulekulturen og kalte den inugsukkulturen. I 1932 ble han med på Rasmussens sjuende thuleekspedisjon, der han blant annet sto for innkjøp av en stor samling av etnografika.