1929 ernannte ihn Papst Pius XI. zum Bischof von Tarbes und Lourdes. Die Bischofsweihe empfing Pierre-Marie Gerlier durch Kardinal Louis-Ernest Dubois, Mitkonsekratoren waren Benjamin Roland-Gosselin, Koadjutor von Versailles, und Maurice Dubourg, Bischof von Marseille. Im Juli 1937 wurde er mit der Leitung des Erzbistums Lyon beauftragt und noch im Dezember des Jahres von Pius XI. als Kardinalpriester mit der Titelkirche "Santissima Trinità al Monte Pincio" in das Kardinalskollegium aufgenommen. Pierre-Marie Gerlier nahm in den Jahren 1939, 1958 und 1963 am Konklave teil. Er vertrat Papst Pius XII. bei verschiedenen internationalen Feierlichkeiten als päpstlicher Legat. In den Jahren 1962 bis 1965 nahm er an den ersten Sessionen des Zweiten Vatikanischen Konzils teil. Pierre-Marie Kardinal Gerlier starb am 17. Januar 1965 an einem Herzinfarkt in Lyon und wurde in der dortigen Kathedrale bestattet.