本为旧三岛郡的一部分，在701年制定大宝律令后，三岛郡被拆分为三岛上郡和三岛下郡，三岛下郡后来则成为岛下郡，但也有文献中将汉字记为嶋下郡；在16世纪到17世纪期间，也曾被称为太田郡。在江户时代大部分区域为和淀藩的领地，另有少部分区域属于幕府直属、一桥德川家、田安德川家、旗本、古河藩、、和皇室领地。明治维新后，郡内的幕府领地和旗本领地先后被划为大坂裁判所司农局、大坂府司农局、大坂府北司农局、摄津县、丰崎县、兵库县的辖区，而其他原属各藩的领地在1871年实施废藩置县后也分别被划为由藩改设立的高槻县、淀县