Von Präsident Johnson wurde er 1963 auch zum Mitglied der "Warren-Kommission" ernannt, die die Hintergründe des Attentats auf John F. Kennedy untersuchen sollte. Während er anfänglich erhebliche Zweifel an der Theorie des Einzeltäters anmeldete, die Verzögerungen bei den Ermittlungen und andere Unstimmigkeiten bemängelte, ließ er sich schließlich doch unter dem starken Einfluss von Allen W. Dulles dazu umstimmen, den abschließenden Bericht zu unterzeichnen. Den West-Berlin-Besuch Kennedys 1963 initiierte McCloy, nachdem er mit Chruschtschow Gespräche geführt hatte. Während der Kuba-Krise war er Mitglied des entsprechenden Koordinationskomitees.