Størrelsen på nivå-1 cache RAM ble halvert fra 128 Kb til 64 Kb, også for å redusere størrelsen. Til gjengjeld ble størrelsen på den eksterne nivå-2 cache RAM økt til en kapasitet på fra 1 til 16 Mb. SPARC64 III kommuniserte med nivå-2 cache gjennom en egen dedikert 128-bit buss som opererte i det hele eller halve av prosessorens klokkefrekvens.