Nøttestad har forsket på en rekke områder ved Havforskningsinstituttet. Dette inkluderer ulike makrellarter (som nordøstatlantisk makrell, hestmakrell og makrellstørje), økosystem prosesser med spesiell fokus på pelagisk fisk som sild og makrell, stimadferd og komplekse systemer, utbredelse, adferd og økologi hos hval og delfiner, sonar- og ekkolodd-studier av in-situ predator-bytte forhold (sjøpattedyr-pelagisk fisk-byttedyr) i marine økosystem, og popularisering og formidling av marin forskning. Han har skrevet flere vitenskapelige artikler.