Med en historie som strekker rundt 3000 år tilbake i tid har Nusaybin blitt bosatt og behersket av ulike folk og grupper. Den er først nevnt som en armensk bosetning, Naşibīna, i 901 f.Kr. Den ble behersket av assyrere. I klassisk litteratur kalt for Nisibis var den mesopotamiske byen som Aleksander den stores etterfølgere gjenopprettet som (gresk: Αντιόχεια της Μυγδονίας), og på 300- og 400-tallet e.Kr. var den en av de store sentrene innenfor gammelsyrisk lærdom, sammen med nabobyen Edessa. Senere fikk den også betydning for Romerriket.