建武十二年（36年），撤金城郡，枹罕县改属陇西郡。西晋太康二年（281年），废枹罕县，立枹罕护军。永嘉年间，枹罕县属晋兴郡。十六国前凉太元二十一年（344年），析凉州新置河州，州、郡均治枹罕。后境地分别为前秦、西秦、后秦、西夏、北魏、西魏、北周统治。隋开皇三年（583年）废枹罕县入河州。大业三年（607年），河州改枹罕郡。唐朝武德元年（618年），复置枹罕县，为河州治所。天宝元年（742年），改河州为安乡郡。宝应元年（762年），安乡郡为吐蕃所占。北宋熙宁六年（1073年），大将王韶收复河州，复置枹罕县