Construite dans les années 1960, par des entreprises britanniques pour le compte de la junte militaire dirigeant la République d'Irak. La prison a une superficie de , délimitée par un périmètre de sécurité de ponctuée par 24 miradors. Sous le régime de Saddam Hussein, la prison d'Abou Ghraib était placée sous l'autorité de la « Direction de la sécurité générale » (en anglais : "", connue en arabe sous le nom de "al-Amn al-‘Amm"), c'est-à-dire la police secrète. Elle fut un lieu de torture et d'exécutions, dont des milliers de prisonniers politiques furent les victimes. On estime à le nombre des exécutions pour la seule année 1984. L'organisation de défense des droits de l'homme Amnesty International a réuni des informations sur plusieurs exécutions de masse dans les années 1990, au cours desquelles des centaines de prisonniers furent tués. Pendant la deuxième guerre du Golfe (1990-1991), des prisonniers de guerre des troupes de la coalition, notamment des membres du SAS britannique, furent détenus et torturés à Abou-Ghraib.