Trotzdem begann er zunächst ein Studium der Politikwissenschaft, wechselte dann aber 1951 auf die Filmhochschule in Paris, die er allerdings 1953 ohne Abschluss verließ. Der Stoff sei ihm zu theoretisch. Malle ging als Kameramann und Assistent des Tiefseeforschers Jacques-Yves Cousteau mit auf eine zweijährige Forschungsreise auf der "Calypso". Er lernte dort die Technik des Filmemachens, während gleichzeitig der später oscargekrönte Dokumentarfilm "Die schweigende Welt" entstand. Der Film gewann 1956 außerdem als erster Dokumentarfilm die Goldene Palme bei den Filmfestspielen von Cannes. Insgesamt blieb Malle vier Jahre bei Cousteau. Nachdem bei den Unterwasseraufnahmen in den USA am gesunkenen Passagierdampfer "Andrea Doria" einer seiner Kollegen verunglückte und er selbst eine schwere Verletzung am Trommelfell erlitt, gab er die Arbeit als Unterwasserkameramann auf. In seinem nächsten Job war er Assistent bei Robert Bressons "Ein zum Tode Verurteilter ist entflohen" (1956).