Det raskt voksende samfunnet ved Cluny krevde bygninger i en stor skala. Eksemplene satt ved Cluny påvirket dyptgående arkitekturen i Vest-Europa fra 900-tallet til begynnelsen av 1200-tallet. De tre påfølgende kirkene, konvensjonelt kalt for Cluny I, II og III reiste klosteret den største bygningen i Europa før Peterskirken ble reist i Roma på 1500-tallet. Konstruksjonen av Cluny II, ca. 955-981, begynte etter de destruktive ungarske herjingene i 953 og som førte til at de burgundiske kirkene ble hovedsakelig bygd i stein.