一年（535）开始即有小洋岛文字记载。清《干隆金山县志》、《光绪崇明县志》记载：岛上多羊，得名“羊山”，因岛面积小，称“小羊山”，后演变为小洋山，而大洋山因小洋而得名。据《大洋旧志》记载：早在南宋以前，洋山居民稠密。公元1658年(清顺治十五年)，郑成功北伐长江，船队停泊于此遇台风，损失很大。清水师提督陈伦烔作于雍正八年（1730）的《海国闻见录·天下沿海形势录》记载：而崇明上锁长江，下扼吴淞，东有洋山、马迹、花脑、陈钱诸山。大、小洋山及其附近岛屿，在西文海图里总称为崎岖列岛( Rugged I