Ulkoministeriksi tultuaan Gortšakov otti välittömästi tavoitteekseen Venäjän suurvalta-aseman palauttamisen ja pyrki parantamaan maan suhteita Ranskaan ja Preussiin. Vastaavasti hän antoi suhteiden Itävaltaan kylmentyä. Puolan kapinan murskaaminen vuonna 1863 tosin viilensi Venäjän ja Ranskan välit, mutta suhteiden rakennus Preussin suuntaan onnistui paremmin. Tyytyväisenä tsaari Aleksanteri II nimitti Gortšakovin myös valtakunnan kansleriksi vuonna 1866. Saksan–Ranskan sodan aikana 1870–1871 Venäjä sai Gortšakovin ansiosta kumottua Krimin sodan jälkeiseen Pariisin rauhansopimukseen sisältyneet rajoitukset, jotka kielsivät sitä pitämästä sotalaivastoa Mustallamerellä tai linnoittamasta meren rannikoita.