Ayn al-Arab begynte som en stasjon bygd i 1912 ved Bagdadbanen. Armenere som flyktet fra folkemordet i Anatolia grunnla en landsby ved togstasjonen i 1915, og ikke lenge etter kom det også kurdere tilflyttende. Etter demarkasjonen av grensen mellom Syria og Tyrkia langs jernbanelinjen i 1921, ble en mindre del av den opprinnelige by liggende på tyskisk side.