Karzai nasceu em 24 de dezembro de 1957 em Candaar; é filho de Abdul Ahad Karzai, que serviu como presidente do Parlamento Afegão durante a década de 1960. Seu avô, Khair Mohammad Khan, combateu na Terceira Guerra Anglo-Afegã em 1919 e foi também vice-presidente do Senado Afegão. A família Karzai foi uma das maiores apoiadoras de Zair Xá, o último monarca afegão. Seu tio, Habibullah Karzai, ocupou o cargo de Representante Permanente do Afeganistão às Nações Unidas, tendo acompanhado seu monarca durante uma visita de estado a John F. Kennedy na década de 1960.