1914年6月28日、サラエボ事件が発生すると外務大臣とともにオーストリア＝ハンガリー帝国を全面的に支援するため尽力した。グレイはオーストリアとセルビア王国の調停を提案したが、オーストリアが開戦を躊躇うことを危惧し提案を無視した。しかし、ベートマン・ホルヴェークもヤゴーも第一次世界大戦のような全面戦争は想定しておらず、オーストリア最後通牒が通達され事態の重大さを知り辞任を申し出たが、ヴィルヘルム2世に「君は自分が食べるためにシチューを作ったのだろう」と返答され拒否された。