В первые дни войны Голиков снят с поста начальника Главного разведывательного управления РККА. 5 июля 1941 года он был назначен главой Советской военной миссии в Великобританию и в США, и вскоре убыл в Великобританию. Вёл переговоры о военных поставках для СССР и об открытии второго фронта, в том числе 31 июля 1941 года был принят президентом США Франклином Рузвельтом. Его большая заслуга в том, что уже 31 августа 1941 года в Архангельск прибыл первый британский арктический конвой с грузом самолётов и боеприпасов для фронта.