グラハム郡は1880年に組織化され、郡名は北軍兵士ジョン・l・グラハム大尉に因んで名付けられた。