พื้นที่ของมณฑลกุ้ยโจวเดิมเป็นที่ตั้งของอาณาจักรเตียน โดยต่อมาอาณาจักรเตียนได้ถูกผนวกเข้ากับแผ่นดินราชวงศ์ฮั่นเมื่อ 106 ปีก่อนคริสตกาล มณฑลกุ้ยโจวได้ก่อตั้งขึ้นอย่างเป็นทางการเมื่อปี ค.ศ. 1413 ในสมัยราชวงศ์หมิง หลังจากการโค่นล้มราชวงศ์ชิงในปี ค.ศ. 1911 และมาตามด้วยการเกิดสงครามกลางเมืองจีน พรรคคอมมิวนิสต์แห่งประเทศจีนได้เข้าลี้ภัยในมณฑลกุ้ยโจวระหว่างการเดินทัพทางไกลในช่วงปี ค.ศ. 1934 และ 1935 และหลังจากการก่อตั้งสาธารณรัฐประชาชนจีน เหมา เจ๋อตงได้ส่งเสริมการย้ายอุตสาหกรรมหนักเข้ามายังมณฑลภายในประเทศดังเช่นมณฑลกุ้ยโจว เพื่อป้องกันการโจมตีจากโซเวียตและอเมริกา