SPARC64 V hadde 128 KB nivå-1 data cache og 128 KB nivå-1 instruksjons cache integrert i brikken. Den integrerte data cache kommuniserte med prosessoren via en 256-bit buss; 128-bit av denne bussen ble brukt av data cachen til å skrive til nivå-2 cache. Prosessoren hadde også en intern kontroller for ekstern nivå-2 cache, som kunne være 1 MB eller 2 MB.