最早文字记载是在战国时的燕国，因其位于渔水（现白河）之北，故称之为渔阳。秦朝初期设三十六郡，渔阳郡是其中之一，郡治在渔阳县。秦朝时期的渔阳县基本就是现在的北京市密云区的区域。西汉沿置渔阳郡，统县12，仍治渔阳，其辖区北至秦长城，南至海边（今渤海湾）。东汉、三国时，辖县减少，且随着北方长城的荒废，郡辖区大大南退，大致只到今密云区北部范围。西晋统一后，将渔阳郡与原东汉广阳郡合为燕国。但是十六国时，渔阳郡置又被恢复。北朝期间，渔阳郡治先向南移到了雍奴县（今天津市武清区崔黄口镇大宫城村），之后又发生迁移。隋