Øyas tidligste historie, som en del av religiøs-politiske "amfiktyoni", som omfattet Lindos, Kamiros, Ialysos, Knidos og Halikarnassos, det doriske hexapolis (gresk for seks byer), er uklart. Mot slutten av 500-tallet f.Kr. falt Kos inn under det persiske Akamenide-dynastiet, men gjorde opprør i kjølvannet av den greske seieren ved Mykale i år 470 f.Kr.. I løpet av perserkrigene ble perserne to ganger slått tilbake. Det ble sagt at Kos ble styrt av eneherskere, tyranner, men synes å ha vært under oligarkisk styre. På 400-tallet f.Kr. ble øya medlem av Det athenske sjøforbundet og etter opprøret på Rhodos, fungerte øya som den fremste athenske marinebasen i det sørøstlige Egeerhavet (411–407 f.Kr.). I 366 f.Kr. ble et demokrati opprettet. Etter å ha bidratt til det stadig svakere athenske riket i de alliertes krig i tiden 357–355 f.Kr., falt øya inn under kong Mausollos av Karia med base i Halikarnassos. I 366 f.Kr. ble hovedstaden overført fra Astypalaia til den nybyde byen Kos som var bygd i henhold til et hippodamisk rutenett konstruert av Hippodamos av Miletos, en pioner innenfor tidlig byplanlegging.