Roku 1946 se účastnil zakládající ho zasedání Organizace spojených národů i přípravy jejich Charty a působil tam jako americký zástupce. Jeho postoj vůči Sovětskému svazu silně ovlivnil Stalinův zákaz účasti Československa a dalších východoevropských států na Marshallově plánu (1947). Roku 1952 se v Paříži setkal s Dwightem Eisenhowerem a udělal na něj svým nesmlouvavým postojem takový dojem, že se o rok později stal jeho zahraničním ministrem. Mladší bratr Allen Dulles se stal ředitelem CIA. Proti Trumanově strategii "omezování" ("containment") vůči Sovětskému svazu prosazoval "osvobození" jeho satelitů a budoval NATO jako odstrašující vojenskou sílu. Podporoval Francii ve válce v Indočíně, ale 1956 odmítl britsko-francouzsko-izraelské obsazení Suezského průplavu (Suezská krize).