Agenor Gołuchowskin isä Agenor Gołuchowski vanhempi oli Itävallan Galitsian kuvernööri. Gołuchowski nuorempi toimi vuodesta 1872 diplomaattina kunnes hänet nimitettiin toukokuussa 1895 ulkoministeri Gusztáv Kálnokyn seuraajaksi. Hän halusi palauttaa kaksoismonarkian hyvät suhteet Venäjään ja matkusti huhtikuussa 1897 keisari Frans Joosefin kanssa Pietariin, minkä seurauksena maiden välillä allekirjoitettiin yhteistyösopimus. Sopimuksen päätarkoituksena oli pitää muut suurvallat ulkona Balkanin asioista. Makedoniassa puhjenneen kapinan seurauksena Venäjä ja Itävalta-Unkari laativat lokakuussa 1903 myös yhteisen uudistusohjelman Osmanien valtakuntaa varten eli niin sanotun Mürzstegin ohjelman. Vuonna 1904 maat sopivat lisäksi puolueettomuudesta toisen joutuessa sotaa kolmatta osapuolta vastaan. Samalla Gołuchowski kuitenkin piti Itävalta-Unkarin myös uskollisena sen pääliittolaiselle Saksalle. Ensimmäisen Marokon kriisin aikana vuonna 1905 hän toimi Saksan ja Ranskan välisenä sovittelijana tavalla, joka miellytti Saksan johtoa.