Tras graduarse en una academia de fútbol, Gallas fichó por el SM Caen, pero permaneció solo dos temporadas, y teniendo una actuación tan buena, que en 1997 fichó por uno de los grandes de Francia, el Olympique de Marsella.