Kara Koyunlu-klanen etablerte seg med Herat (i dagens Afghanistan) som sin hovedstad. De var vassaller under jalayiridene, et herskerdynasti som hadde etterfulgt det mongolsk-tyrkiske Ilkhanatet, fra omtrent 1375. Under ledelse av Qara Yosuf gjorde de opprør mot jalayiridene og okkuperte byen Tabriz. I 1400 ble Kara Koyunlu nedkjempet av timuridiske styrker under ledelse av Timur Lenk, og Qara Yosuf måtte flykte til Egypt. Han fikk der beskyttelse av mamelukkenes sultan Nasir ad-Din Faraj. Han gjenreiste en hær og erobret Tabriz tilbake i 1406. I 1408 gjenerobret han ytterligere områder da han slo timuridene i et slag ved Sardrud (nordvest i dagens Iran). I dette slaget ble Timur Lenks sønn Miran Shah drept og hans sønn Abu Bakr måtte flykte.