В конце 1795 года полк отправился в Гибралтар на гарнизонную службу, от которой Грэхэм вскоре устал. Он получил разрешение присоединиться к австрийской армии на Рейне в качестве британского комиссара. Он участвовал в окончившейся полным крахом кампании 1796 года, а затем помогал Вурмзеру в защите Мантуи, когда та была осаждена французами под командованием Наполеона. Гарнизон сильно страдал из-за недостатка продовольствия, и Грэхэм взял на себя опасную обязанность доставить имперскому генералу Альвинци в Бассано ( от Мантуи) депешу об их отчаянном положении.