Offisielt ble byen grunnlagt 500 f.Kr. i det området som nå kalles Ark. Men Bukhara-oasen var bebodd mye tidligere. Den russiske arkeologen E. E. Kuzmina kobler Zaman-Baba-kulturen som er funnet i Bukhara-oasen fra det tredje årtusen f.Kr. til spredningen av Indo-Ariere i Sentralasia. Etter 3000 f.Kr. utviklet det seg en avansert bronsealderkultur kalt Sapalli-kulturen på steder som Varakhsha, Vardan, Paykend og Ramitan. Rundt 1500 f.Kr. førte flere faktorer - tørrere klima, jernteknologi og arisk immigrasjon - til at befolkningen flyttet inn mot oasen. Både Sapalli-kulturens folk og arierne bodde i landsbyer langs Zeravsjan-elva. Rundt 1000 f.Kr. hadde folkegruppene smeltet sammen til en enhetlig kultur. Rundt 700 f.Kr. hadde denne nye kulturen, kalt den sogdiske utviklet seg i tre bysamfunn med forsvarsanlegg langs Zeravsjan-dalen. Rundt 500 f.Kr. hadde de tre byene vokst sammen og var beskyttet av en forsvarsmur. Bukhara var født.