El nombre Gansu tiene su origen en la dinastía Song y es un acrónimo del nombre de las dos prefecturas principales establecidas en la provincia durante las dinastías Sui ("prefectura de Gan", cerca de la ciudad de Zhangyi) y Tang ("prefectura de Su", cerca de la actual ciudad de Jiuquan).