Han ble erstattet av vinneren av presidentvalget av 12. januar 2005, Sergei Bagapsh. Ett tidligere valg var blitt avholdt på slutten av 2004 etter drapet på opposisjonsleder Garri Aiba, men resultatet av presidentvalget var kontroversielt. Innen 2010, var Ardzinbas helse på tilbakegang og det hadde den vært for en stund. Ardzinba døde 4. mars 2010, i en alder av 64 år. Han var innlagt på Central Clinical Hospital i Moskva på denne tiden. Etter at han hadde blitt eskortert dit uken før han døde.