I 1925 overtok han etter Birger Stuevold-Hansen som NVEs generaldirektør. Rogstad ledet NVE under svært vanskelige tider og etaten hadde fått sin bemanning stadig redusert fra 1920. I mellomkrigstiden utover på 1920-tallet kom det økonomiske nedgangstider, og utover på 1930-tallet utviklet situasjonen seg til det verre med økonomisk depresjon. Aktiviteten i NVE var liten, bortsett fra byggingen av Nore kraftverk. Det var store kontroverser rundt denne kraftstasjonen og det ble diskutert om denne skulle selges. Olaf Rognstad uttalte i den forbindelse at en da måtte være klar over «». NVE hadde nemlig fått en rolle med å skaffe elektrisitetsforsyning til distrikter uten strøm. Da det ble bestemt at kraftverket skulle selges, viste det seg at en ikke kunne bli enighet om prisen, og dermed ble salget stoppet. Flere utkantkommuner på Østlandet var også imot salget av Nore til de større kommunene i landsdelen.