Dopo lo scoppio della guerra della prima coalizione e la dichiarazione di guerra della Francia al Regno di Gran Bretagna nel 1793, Graham (di fatto ancora un civile) fu assunto come aiutante di campo non ufficiale di Henry Phipps, I conte di Mulgrave, nominato al comando delle forze britanniche sbarcate a Tolone; Graham fu quindi impegnato negli eventi dell'assedio di Tolone del settembre-dicembre 1793, mettendosi in luce per il suo coraggio personale. Rientrato in patria, all'inizio del 1794 formò e reclutò a proprie spese un reggimento di fanteria, il 90th Regiment of Foot, e il 10 febbraio 1794 ottenne il grado provvisorio di tenente colonnello; sempre nel 1794 fu anche eletto al Parlamento britannico per il distretto del Perthshire.