Né à Alger dans une famille d'illustres orientalistes, fils de William Marçais et neveu de Georges Marçais, Philippe Marçais passe une licence de lettres classiques à la Sorbonne et sort diplômé d'arabe de l’École des Langues Orientales. De retour en Algérie, il est nommé professeur à la Médersa de Constantine en 1934 puis fait un bref passage à la Médersa d’Alger avant de prendre en 1938 la direction de la Médersa de Tlemcen comme son père l'avait fait avant lui. Mobilisé, il participe à la Campagne de Tunisie en 1939-1940, puis devient capitaine-interprète de réserve et effectue plusieurs missions dans le Sud algérien. Détaché au CNRS à Paris, il est remplacé en 1945 par Émile Janier à la tête de la Médersa de Tlemcen. Il revient à Alger en 1948 comme chargé de cours à la Faculté des lettres, puis est nommé maître de conférences. Il y soutient en 1952 une thèse sur "Le Parler Arabe de Djidjelli" et est nommé à la chaire de « Langues et civilisations de l’Afrique du Nord ». En 1957, il est élu par ses pairs Doyen de la Faculté des Lettres d’Alger. En 1962 après l'indépendance de l’Algérie, il est nommé professeur à Nantes, puis à Rennes dans le berceau familial. En 1964, il prend la chaire d’arabe maghrébin qu'avait occupé son père à l’École des Langues Orientales et est appelé à l'Université de Liège en 1967 à la chaire de « Langues, histoire et institutions du monde » qu'il occupera jusqu'à sa retraite en 1980.