На политическом фронте, в 1796 году при поддержке герцога Атолла он единогласно был избран в парламент, несмотря на желание Дундаса обеспечить место для своего собственного сына. Грэхэм настаивал на том, что поддержка Атолла никак не повлияла на его независимость, и позже он писал, что в то время он твёрдо поддерживал войну, но «в то же время никогда не отказывался от тех принципов вигов, которые привели к революции 1688 года».