Po Stalinovej smrti odišiel do diplomatických služieb a pôsobil ako veľvyslanec v Maďarsku, kde pracoval aj v období protikomunistického povstania v roku 1956. Jeho aktivita a vystupovanie počas krízy mu v očiach N. S. Chruščova priniesli ovocie. Čoskoro sa dostavilo povýšenie do funkcie vedúceho oddelenia ÚV KSSZ pre dohľad a spoluprácu s ostatnými sovietskymi satelitmi. V roku 1962 bol vyzdvihnutý medzi tajomníkmi ÚV a zaradil sa medzi nových perspektívnych Chruščovových aparátčikov. Získal renomé znalca medzinárodných vzťahov a ideologických otázok. V jeho oddelení ÚV sa sústredil mozgový trust poradcov, ktorí si udržali vplyv na dianie v ZSSR až do dôb Gorbačova.