En 2001, Khangoshvili rejoint la République tchétchène d'Itchkerie dans sa lutte contre la Russie pendant la seconde guerre de Tchétchènie. Khangoshvili est un commandant sur le terrain et entretient des liens étroits avec l'ancien président tchétchène Aslan Maskhadov. En 2005, Maskhadov est tué lors d'un raid du FSB, l'agence russe de renseignement intérieur. Selon le frère de Khangoshvili, Zurab, Zelimkhan participe à l'attaque de contre les forces de sécurité, militaires et de police en Ingouchie et au Daghestan, au cours de laquelle plus de 50 militaires sont tués. Zelimkhan lui-même est grièvement blessé à la jambe pendant l'opération. Après son retour dans sa Géorgie natale, Khangoshvili commande une unité militaire antiterroriste géorgienne en Ossétie du Sud pendant la guerre de 2008, mais son unité n'a jamais été déployée.