Die IBU wurde 1998 in Afghanistan gegründet. 1999 versuchten Kämpfer der IBU durch kirgisisches Staatsgebiet nach Usbekistan vorzudringen, wurden aber von den kirgisischen und usbekischen Streitkräften im Batken-Konflikt zum Rückzug gezwungen. Daraufhin zogen sich die Kämpfer der IBU nach Afghanistan zurück, wo sie von den Taliban geduldet wurden und diese dafür im Kampf gegen die Nordallianz unterstützen. 2001 ernannte Mullah Omar den Mitbegründer und Kommandeur der IBU, Jumma Namangani, zum Führer der 3000 Mann starken und aus Ausländern bestehenden "Brigade 21". Um diesen Posten hatte sich auch Osama bin Laden bemüht, der aber nicht berücksichtigt wurde. Ihre wichtigsten Basen zu dieser Zeit lagen in Kunduz und Takhar, wo sie sich auf die dort lebenden Usbeken und Tadschiken stützte. Im Herbst 2001 verlor sie aufgrund des Kriegs in Afghanistan diese Orte und damit ihre Basis um in Usbekistan zu operieren. Bei diesen Kämpfen soll Juma Namangani ums Leben gekommen sein. Ende 2001 zog sich die IBU mit mehr als 1000 Kämpfer unter Führung von Tahir Yoldashev nach Pakistan zurück.