Bei der Bischofswahl im Kölner Domkapitel nach dem Tod des Kölner Kardinals Felix von Hartmann 1919 setzte sich Schulte gegen den zweiten auswärtigen Kandidaten Bischof Adolf Bertram von Breslau durch. Karl Joseph Schulte, der Favorit des Domkapitels, Preußens und Roms war, wurde am 15. Januar 1920 zum Erzbischof von Köln gewählt und am 25. März inthronisiert. Ein Jahr später, am 7. März 1921, kreierte ihn Papst Benedikt XV. zum Kardinal mit der Titelkirche "Santi Quattro Coronati". Schulte war Teilnehmer der Konklave 1922 und 1939. Am 30. November 1924 konnte er mit der Petersglocke die größte freischwingende läutbare Glocke der Welt für den Kölner Dom weihen.