城郡及河西四郡转入张掖属国都尉窦融之手。汉光武帝建武五年（27年），窦融降汉。然而“自王莽末，西羌寇边，遂入居塞内，金城属县多为虏有”，“更始、赤眉之际，羌遂放纵，寇金城、陇西”，“先零羌杀金城太守居其郡”，于是金城人口多迁居武威。建武十一年（33年），马援出征陇西，破先零羌于临洮，诸羌退守浩亹隘。马援又袭允吾谷，得胜而归。朝臣认为破羌县以西之地僻远多寇，欲弃其地。马援上书谏阻：“破羌以西城多完牢，易可依固；其田土肥壤，灌溉流通。如令羌在湟中，则为害不休，不可弃也。”。次年（34年），金城郡残余之地