I 1918 utviklet Dempster det første moderne massespektrometeret, et vitenskapelig apparat som tillater fysikere og kjemikere å identifisere forbindelser etter massen av elementer i en prøve, og bestemme den isotopiske sammensetningen av elementer i en prøve. Dempsters massespektrometer var over 100 ganger mer nøyaktig enn tidligere versjoner, og etablerte den grunnleggende teorien og utformingen av massespektrometre som fremdeles er brukt den dag i dag. Dempsters forskning i løpet av karrieren sentrerte seg om massespektrometeret og dets applikasjoner, og førte i 1935 til hans oppdagelse av uranisotopen U. Denne isotopens evne til å forårsake en raskt voksende fisjon, den kjernefysiske kjedereaksjonen tillot utvikling av atombomber og kjernekraft.