UltraSPARC III hadde 32 Kb nivå-1 cache for instruksjoner, og 64 Kb nivå-1 data cache. Den eksterne nivå-2 cache hadde en maksimal grense på 8 Mb, og var tilknyttet prosessoren via en 256-bit 200 MHz buss som ga en båndbredde på inntil 6.4 GB/s. Bussen var dedikert og ikke-blokkerende: Overføringer mellom prosessoren og RAM foregikk via en annen buss, slik at cache-RAM og ordinær RAM kunne aksesseres samtidig.