Han har særlig forsket på tidsrekkeanalyse og stokastiske prosesser. Han bidratt til teorien for ikke-lineære og ikke-stasjonære tidsrekker, spesielt estimering, testing av linearitet og interaksjon samt resultater om skjevhet av vanlige tidsserie-estimatorer. Tjøstheim har forsket på anvendelser av tidsrekkeanalyse på jordskjelvdata, økonomi og fiskeri- og havforskning.