北魏时，省并汲、获嘉二县，河内郡山阳县改属汲郡。太和十二年（488年），复置汲县。太和十八年（494年），顿丘郡顿丘县改属汲郡。太和二十三年（488年），复置获嘉县。北魏孝明帝孝昌中，分修武县为北修武、南修武二县；分汲郡置黎阳郡，顿丘县属之。北魏孝庄帝永安元年（528年），分汲郡置林虑郡，林虑县属之。东魏孝静帝天平二年（535年），共县改属林虑郡。至此，汲郡领六县：北修武、南修武、汲、朝歌、山阳、获嘉，治所在朝歌县之枋头城。北齐时，省并北修武、山阳、获嘉三县，余修武、汲、朝歌三县。北周灭北齐后，废伍城