Stedet ble bosatt allerede i oldtiden og byen ble bygd på nordsiden av en naturlig havn. Arkeologiske undersøkelser viser at det har vært bosetninger på det samme stedet som byen siden rundt 6000 f.Kr. Byen ble opprettet av grekere en gang rundt 1000 f.Kr. Tradisjonen hevder at Homer ble født i Khíos (eller Vrontados). Byen hadde en betydelig krigsflåte i antikken, og hadde stor handelsvirksomhet som ga en rikdom som førte til kulturell vekst. I romersk tid fikk byen en nedgang, men den vokste i bysantinsk tid, og i de neste tusen år var byen og øya en av de viktigste provinsene i Østromerriket. Ved 1500-tallet hadde den befestede byen blitt ytterligere befestet av påfølgende herskere til en omfattende middelalderfestning, «Kastro».