Вскоре после этого Грэхэм присоединился к армии под командованием Веллингтона и был назначен его заместителем. В январе 1812 года он принял участие в осаде и захвате Сьюдад-Родриго, и Веллингтон заявил, что крайне обязан ему за успех предприятия. Три месяца спустя он и его друг генерал Хилл получили орден Бани. Проблема с глазами, от которой он страдал некоторое время, заставила Грэхэма в это время вернуться домой.