С 1939 по 1943 год Громыко — советник полномочного представительства (аналог посольства) СССР в США. Дружеских отношений с тогдашним советским послом в США Максимом Литвиновым у Громыко не сложилось. К началу 1943 года Литвинов перестал устраивать Сталина и был отозван в Москву. Освободившуюся должность посла СССР в США занял Громыко, находился на этом посту до 1946 года. Одновременно был посланником СССР на Кубе. Громыко активно занимался подготовкой Тегеранской, Ялтинской и Потсдамской конференций глав государств-союзников. В двух последних, состоявшихся в 1945 году, сам принял участие.