Bortsett fra modell 20, ble IBM System/360 erstattet av den kompatible serien IBM System/370 i 1970. Brukere av modell 20 var ment å gå over til IBM System/3. Ideen om et stort teknologisk gjennombrudd gjennom IBM Future Systems project, ble forkastet i 1975 på grunn av prosjektets kostnader og ønsket om kontinuitet. Senere kompatible stormaskiner inkluderer IBM 3090, IBM ES/9000, IBM 9672 i IBM System/390-familien, IBM System z, IBM System z9, IBM System z10 og IBM zEnterprise System.