Dalam beberapa bulan selepas Serangan 11 September, Karzai bersama-sama dengan pihak Mujahideen yang setia terhadap Perikatan Utara Afghan berkerjasama dengan Amerika Syarikat untuk menggulingkan kerajaan Taliban di Afghanistan. Pada bulan Disember, 2001, pemimpin-pemimpin buangan Afghan berkumpul di Bonn, Jerman untuk membincangkan kepimpinan yang baru. Di bawah Perjanjian Bonn, mereka bersetuju untuk melantik Karzai sebagai pengerusi Majlis Pentadbiran Sementara Afghan.