En 1978, il doit de nouveau émigrer, cette fois-ci à cause de la guerre civile au Liban. Il s'installe alors à Marseille où il crée la Compagnie maritime d’affrètement (CMA). Les débuts sont très modestes, car à sa fondation, la CMA n'a que quatre collaborateurs, qu'un seul navire, et n'effectue qu'un seul service, une unique ligne reliant Marseille à Beyrouth via Livourne (Italie) et Lattaquié (Syrie). Après un très long conflit judiciaire l'opposant à son frère Johnny, Jacques Saadé parvient à prendre la prédominance dans la capitalisation et la direction du groupe CMA. Il lance alors le développement de nouvelles lignes, ayant la conviction que dans un contexte de hausse spectaculaire des échanges internationaux, le conteneur va être l'élément moteur du trafic maritime. À partir de 1983, les navires de la CMA naviguent au-delà de la Méditerranée en franchissant le canal de Suez. Pressentant que l'Asie va devenir « "l'atelier du monde" », il ouvre en 1986 la première ligne entre l’Europe du Nord et l’Asie, puis il inaugure en 1992 le premier bureau commercial de CMA en Chine, à Shanghaï. En 1996, il achète à bas prix la Compagnie générale maritime (CGM, issue de la fusion de la Transat et des Messageries maritimes) que le gouvernement Juppé II souhaite privatiser après l'avoir renflouée à très grand frais. Il rachète ensuite Delmas en 2005, et l’ensemble CMA-CGM devient à partir de 2006 le numéro trois mondial du secteur du transport maritime.