北魏孝庄帝永安元年（528年），分汲郡置林虑郡，林虑县属之。东魏孝静帝天平二年（535年），共县改属林虑郡。至此，汲郡领六县：北修武、南修武、汲、朝歌、山阳、获嘉，治所在朝歌县之枋头城。北齐时，省并北修武、山阳、获嘉三县，余修武、汲、朝歌三县。北周灭北齐后，废伍城郡，其所领伍城县改属汲郡；修武县改属修武郡。至此，汲郡领三县：汲、朝歌、伍城。隋文帝开皇三年（583年），废汲郡，领县直属卫州。隋炀帝大业三年（607年），改卫州为汲郡，治卫县，领八县：卫、汲、隋兴、黎阳、内黄、汤阴、临河、澶水。唐高祖