Kenraalimajurin asemassa Mattis komensi merijalkaväen 1. divisoonaa vuoden 2003 hyökkäyksessä Irakiin ja sen jälkeisissä toiminnoissa Irakin sodassa. Mattisilla oli yksi keskeisiä rooleja taistelutoimissa al-Anbarin maakunnassa ja etenkin Fallujan ensimmäisen ja toisen taistelun aikana. Toukokuussa 2004 Mattis oli vastuussa hääseurueeseen osuneesta iskusta, jossa kuoli 42 miestä, naista ja lasta. Kohteen uskottiin olevan vastarintataistelijoiden tukikohta. Mattis on sanonut, että päätti pommituskohteesta 30 sekunnissa.