Irakin sota syttyi vuonna 2003 ja Karpinski sai samana vuonna ylennyksen prikaatinkenraaliksi. Kesäkuussa 2003 hänestä tuli 800. sotilaspoliisiprikaatin komentaja. Tehtävässään hänen alaisuudessaan oli noin 3 400 armeijan reservistiä ja useita vakinaisten sotilaiden pataljoonia, jotka vastasivat Irakissa olleiden 16 pidätyskeskuksen toiminnasta. Keskuksista yksi oli Abu Ghraibin vankila. Amerikkalaisten pidätyskeskuksista alkoi tihkua tietoa väärinkäytöksistä, kuten vankien kiduttamisista. Armeija alkoi tutkija tietoja ja tammikuussa 2004 Karpinskin komentaja kenraaliluutnantti Ricardo Sanchez pidätti hänet ja 16 muuta virastaan. Kenraalimajuri Antonio Taguban johtama tutkimus esitti pitäviä todisteita vankien pahoinpitelystä Karpinskin alaisten sotilaiden käsissä. Armeija päätti huhtikuussa 2005 vapauttaa Karpinskin palveluksesta ja presidentti George W. Bush hyväksyi hänen alentamisensa everstiksi. Karpinskista tuli korkea arvoisin skandaalin tiimilta rankaistu amerikkalainen.