IBM System/360 ble levert sammen med operativsystemet OS/360, som var et av de første operativsystemene som benyttet sekundært minne som en innebygd del av deres kjøring. IBM TSS/360 ble utviklet eksklusivt for modell 67 som en konkurrent til Multics, og ble senere erstattet av CP-67 og det tidsdelte miljøet Time Sharing Option i OS/360 Multiprogramming with a Variable number of Tasks (MVT) versjon 20.1. IBM utviklet også operativsystemene BOS/360, BPS/360, DOS/360 og TOS/360 for de minste modellene. I 1967 utviklet University of Michigan det tidsdelte operativsystemet Michigan Terminal System til bruk på modell 67 og de etterfølgende stormaskinene IBM System/370.