Im Konsistorium vom 28. April 1969 nahm ihn Paul VI. als Kardinalpriester mit der Titelkirche "San Giovanni Battista de Rossi" in das Kardinalskollegium auf. Carberry war Teilnehmer am Konklave August 1978, das Johannes Paul I. wählte, und am Konklave Oktober 1978, aus dem Johannes Paul II. als Papst hervorging. Am 31. Juli 1979 nahm Johannes Paul II. Carberrys aus Altersgründen vorgebrachtes Rücktrittsgesuch an.