I 1964 innledet Vanier og Thomas Philippe (en prest i dominikanerordenen) sammen med to psykisk handikappede menn (Raphaël og Philippe) det som skulle bli spiren til , i et lite hus i Trosly-Breuil, en fransk landsby ved i Compiègne. Han oppdaget «dybden i deres lidelse og deres skrik etter en sann relasjon, men også deres glede over et fellesskap med andre mennesker» (sitat, fra Vanier). Han ville hjelpe dem; samtidig merket han hvordan de hjalp ham. I 1965 overtok Vanier ledelsen av en hjem for funksjonshemmede i Val Fleuri, der det bodde 32 menn med psykisk handicap. Han endret på hjemmet slik at det var både funksjonshemmede og funksjonsfriske boende der, og med dette begynte L'Arche-bevegelsen. I 1969 ble de første slike fellesskap opprettet utenfor Frankrike: Daybreak i Toronto og Asha Niketan i Bangalore i India. I 1970-årene ble det bygget opp strukturer, felles retningslinjer og et for Arche-fellesskapene.