871年实施废藩置县后，原先属于各藩的区域改隶属郡山县、小滨县、膳所县、川越县、伯太县、金泽县、淀县、丰桥县、福知山县。在1872年的府县整併中，郡内全数区域都被整併为长滨县，但长滨县在三个月后更名为犬上县，不过在同年年底犬上县又与滋贺县合併为新设立的滋贺县。1879年实施时，正式设置近代的行政区划「高岛郡」，并在今津村（位于现在的高岛市）设置郡役所。