Im Frühling 2003 wurde Hersh erstmals durch einen irakischen Zwei-Sterne-General zugetragen, dass in US-Kriegsgefängnissen Misshandlungen geschähen. Hershs Unzufriedenheit mit der Darstellung des Weißen Hauses über den Verlauf des Krieges in Afghanistan seit 2001 wurde 2004 durch eine Quelle gestützt. Al-Qaida hatte weiterhin Kontrolle über weite Gebiete Afghanistans und der Heroinhandel florierte. Außerhalb von kleineren Artikeln und Menschenrechtsorganisation war bisher kaum etwas über Misshandlungen von Gefangenen bekannt geworden. Hersh wusste um die mediale Wirkung von Bildern seit seiner My-Lai-Reportage. Über eine Frau, deren Tochter Wärterin in Abu Ghuraib war, bekam Hersh Zugang zu Fotos, die Misshandlungen von Gefangenen dokumentierten. Am 28. April 2004 schrieb Hersh als erster Reporter ein Exposé über Folter und Entmenschlichung im US-Gefängnis Abu Ghuraib. Drei weitere Artikel im "New Yorker" folgten: „Keine entschuldigenden Aussagen oder politischer Spin konnten letzte Woche die Tatsache vertuschen, dass Präsident Bush und seine Chefberater seit den Anschlägen vom 11. September in einen Krieg gegen den Terrorismus verwickelt sind, in dem die alten Regeln nicht mehr gelten.“ Mit seiner Reportage gewann Hersh den bis dahin fünften George Polk Award der Long Island University in New York.