在现在天水一带秦国设置了邽县，前280年设置陇西、北地二郡。汉代由于张骞通西域，河西走廊成为“丝绸之路”的必经要道，以及许多新的城镇兴起，汉武帝在现在甘肃一带将黄河以西分置四郡，黄河以东置五郡，统归凉州管辖。十六国时代有5个国家在甘肃境内建都。南北朝时代属北魏，当时佛教从西域传入，在甘肃境内大兴石窟，目前最重要的有敦煌石窟（莫高窟千佛洞）、麦积山石窟、炳灵寺石窟等。唐代重视通向西域的交通要道甘肃一带的作用，将其分置关内道、陇右道和山南道，共辖22州，其中在河西走廊最大的是甘州（现在张掖一带）和肃