Im September 2003 übernahm er als Kommandierender General das Kommando über das "Joint Special Operations Command" (JSOC) in Fort Bragg und führte dies fünf Jahre lang bis zum August 2008. In dieser Zeit wurde er am 1. Mai 2004 zum Major General ernannt. Ab Februar 2006 kommandierte McChrystal zusätzlich die Sondereinsätze des "US Central Command" (CENTCOM) im Irak und erhielt dazu am 16. Februar 2006 seinen dritten Stern als Lieutenant General. Als Kommandeur eigentlich in Fort Bragg stationiert, verbrachte McChrystal den Hauptteil seiner Zeit in Afghanistan, im vorgelagerten CENTCOM-Hauptquartier in Katar und im Irak. Unter seinem Kommando nahmen JSOC-Truppen im Dezember 2003 den ehemaligen Diktator Saddam Hussein gefangen und töteten mit Hilfe der US Air Force im Juni 2006 den Anführer der Al-Qaida im Irak, Abu Musab az-Zarqawi. Bis zum Tode Zarqawis im Juni 2006 war McChrystal der Öffentlichkeit weitgehend unbekannt. Nachdem jedoch McChrystals Truppen Zarqawi lokalisiert und einen Luftschlag angefordert hatten, der ihn schlussendlich tötete, begleitete McChrystal die Männer der "Task Force 6-26" zum ausgebombten Unterschlupf Zarqawis um ihn persönlich zu identifizieren. Davon beeindruckt brach US-Präsident George W. Bush eine ungeschriebene Regel und lobte das JSOC-Team (TF 6-26) und deren Kommandeur McChrystal namentlich in der Öffentlichkeit. Die "Task Force 6-26" war zuvor schon öffentlich in Erscheinung getreten. Nachdem im April 2004 der Abu-Ghuraib-Folterskandal öffentlich geworden war, wurden Angehörige der Task Force rüder Verhörmethoden bis hin zur Folter von Gefangenen in Camp Nama verdächtigt. 34 Mitglieder der Task Force erhielten Disziplinarstrafen und fünf US Army Rangers wurden wegen Gefangenenmisshandlung in Camp Nama verurteilt.