Golikov oli heinäkuusta 1940 heinäkuuhun 1941 Neuvostoliiton sotilastiedustelun johtajana ja puna-armeijan apulaisesikuntapäällikkönä. Tehtävässään kokematonta Golikovia pidetään Josif Stalinin ohella yhtenä pääsyyllisistä siihen, että Saksan hyökkäys kesäkuussa 1941 tuli neuvostojohdolle täytenä yllätyksenä. Golikov ei uskonut Saksan hyökkäävän Neuvostoliittoon niin kauan kun Britannia oli kukistamatta, joten hän kieltäytyi välittämästä Saksan hyökkäysvalmisteluja koskevia tiedustelutietoja yleisesikunnan päällikkö Georgi Žukoville tai puolustusministeri Semjon Timošenkolle. Saksan aloitettua sodan Golikov johti heinäkuussa 1941 Britanniaan ja Yhdysvaltoihin matkannutta neuvostoliittolaista sotilasvaltuuskuntaa, joka neuvotteli ase- ja muusta avusta.