I 1950-årene arbeidet han med å introdusere spektralteori inn i tallteorien, noe som resulterte i Selbergs sporformel, hans mest anerkjente arbeide.