Området har vært bebodd siden eldre steinalder, men det er usikkert når selve byen kan sies å være grunnlagt. Enkelte teorier går ut på at det skjedde mellom 8. og 7. århundre f.Kr. Med sin sentrale plassering ved Silkeveien mellom Kina, Persia og Europa ble Samarkand til tider en av de største byene i Sentralasia og en viktig by for Perserriket. Under Akamenidedynastiet var byen hovedstad i satrapet Sogdia. Byen ble erobret av Alexander den store i 329 f.Kr. da den var kjent under navnet Markanda, Byen ble styrt av vekselvis iranske og tyrkiske folkeslag inntil området ble erobret av mongolene under Djengis Khan i 1220.