Kálymnos on ollut asutettu viimeistään neoliittiselta kaudelta lähtien. Saaren varhaiset asukkaat olivat mahdollisesti kaarialaisia. Myöhemmin sen asuttivat foinikialaiset ja sitten doorilaiset. Doorilainen historia näkyy edelleen muun muassa paikallisessa murteessa. Homeroksen kertomuksessa osa Agamemnonin laivoista haaksirikkoutui saarelle palatessaan Troijan sodasta. Miehistöt jäivät asumaan saarelle ja perustivat sinne kaupungin, joka sai heidän kotimaansa mukaan nimen Argos.