1982 wechselte er in den diplomatischen Dienst. Er vertrat 1982 bis 1990 die UdSSR als Botschafter in Schweden und 1990/91 in der Tschechoslowakei. Während des Augustputsches 1991 verurteilte er als höchstrangiger Diplomat den Putsch sofort. Deshalb machte Gorbatschow ihn am 28. August zum Nachfolger des glücklosen Bessmertnych. Nach kaum 100 Tagen wurde das Außenministerium durch den Sieg Jelzins im Machtkampf mit Gorbatschow faktisch entmachtet und Pankin im Dezember 1991 zum Botschafter in Großbritannien ernannt. Nach dem Ende der UdSSR zum Jahresende 1991 behielt er das Amt nun als russischer Botschafter. 1993 trat er aus Protest gegen den beginnenden Tschetschenienkonflikt in den Ruhestand. Er ist Mitglied im Beirat der Global Panel Foundation und im European Leadership Network.