Nel 1960 iniziò a collaborare con il National Film Board (NFB), prima come ricercatore e dopo breve tempo come sceneggiatore e regista; diresse svariati cortometraggi, perlopiù documentari, prima di fare il suo esordio nel lungometraggio con "La vie heureuse de Léopold Z" (1965), che fu un successo di critica e pubblico. Il suo film di maggior successo fu "Una donna con tanto amore" (1972), che vinse cinque Canadian Film Awards e lo fece conoscere a livello internazionale. Altri titoli importanti della sua filmografia furono "La Mort d'un bûcheron", presentato in concorso al Festival di Cannes 1973 e che contribuì a lanciare la carriera dell'allora compagna di Carle, Carole Laure, e "Les Plouffe", vincitore nel 1981 di sette Genie Awards.