Aufgrund seiner erfolgreichen Tätigkeit wurde er im Mai 1895 zum österreichisch-ungarischen "Minister des Äußeren und des kaiserlichen Hauses" berufen. Seine Außenpolitik war eine "rein konservativ-beharrende, vorsichtig die Verhältnisse abwägende", es mangelte ihr "an Initiative und aktiver Konzeption". Als Außenminister verhandelte Gołuchowski während des Türkisch-Griechischen Kriegs um Kreta das österreichisch-russische Abkommen vom April 1897 in Sankt Petersburg über die Beibehaltung des Status quo am Balkan, das eine Dekade der Entspannungspolitik einleitete. Auch über Albanien und Makedonien konnte ein Ausgleich mit Russland gefunden werden.