Operativsystemer for IBM stormaskiner ble innledet med OS/360 (1965), og ble etterfulgt av MVS (1974) og OS/390 (1995). Disse ble brukt på 32-biter stormaskinene IBM System/360, IBM System/370 og IBM ESA/390. z/OS er laget for en 64-biter arkitektur, men er kompatibel med programvare for OS/360, MVS og OS/390. Liksom OS/390, kombinerer z/OS en rekke tidligere separate programvareprodukter, og noen av dem er fortsatt valgfrie. z/OS har bevart mye av funksjonaliteten fra 1965 og fremover, og tilbyr i dag attributtene til et moderne operativsystem.