Kansu, Qin Hanedanı döneminde (MÖ 221-206) Çin topraklarına katıldı. Marco Polo'nun Çin'e girdiği yol olarak tanınan bölge, pek çok kişinin kişinin seyahat ettiği bir koridordu. Kansu adı Yuan Hanedanı döneminde, Ganzhou ve Suzhou bölgelerinin adlarından (1206-1368) oluşturuldu. 1644'ten 1911'e değin Qing (Mançu) hanedanının yönetiminde kalan Kansu'nun bu dönemde en ünlü yöneticilerinden olan Zuo Zongtang (1812-1885) Taiping ve Müslüman ayaklanmalarının (1862-1877) ardından yörede yarım yüzyıl boyunca barış sağladı. 1920'de, 20. yüzyılın en büyük deprem felaketlerinden biri maydana gelmiştir. Merkezi Kansu'nun doğusunda bulunan 8.6 şiddetindeki depremde yaklaşık 200,000 - 250,000 arasında can kaybı yaşanırken, pek çok kent ve kasaba haritadan silinmiştir.