Народився в 1933 році в єврейській родині в Алжирі. Навчався у Вищій нормальній школі. Його викладачами були Анрі Картан, Лоран Шварц та Альфред Кастлер. Навчання Коена-Таннуджі було перервано на 28 місяців для служби в армії під час Алжирської війни. В 1962 році повернувся до аспірантури, яку закінчив в 1962 році. Після цього викладав квантову механіку в Паризькому університеті. Нотатки до лекцій стали основою для написання популярно підручника з квантової механіки. Займався дослідженнями взаємодії атомів з фотонами. В 1973 році став професором в Колеж де Франс та членом правління Коледжу ядерної та молекулярної фізики.