การปฏิบัติการล้านล้านครั้งต่อวินาที (TOPS) จะวัดประสิทธิภาพ AI สูงสุดตามทฤษฎีของระบบ โดยถือว่ามีการใช้งานตัวเร่ง AI ถึง 100% TOPS เน้นให้เห็นศักยภาพในการประมวลผลของหน่วยประมวลผลประสาท (NPU) และหน่วยประมวลผลกราฟิก (GPU) สำหรับงาน AI
คุณอาจเคยได้ยินเกี่ยวกับเทราฟล็อปส์หรือการปฏิบัติการจุดลอยตัวล้านล้านครั้งต่อวินาที (TFLOPS) ซึ่งเป็นหน่วยวัดประสิทธิภาพสูงสุดที่คล้ายกันซึ่งอิงจากการปฏิบัติการจุดลอยตัว ทั้งสองประเมินว่าระบบจัดการกับงานที่ต้องใช้การประมวลผลสูงได้ดีเพียงใด โดย TOPS จะประเมินประสิทธิภาพของ AI และ TFLOPS จะประเมินประสิทธิภาพของซูเปอร์คอมพิวเตอร์ที่ไม่ใช่ AI
โดยทั่วไปแล้ว TOPS จะคำนวณโดยใช้ int8 ตามสูตรต่อไปนี้:
TOPS = # จำนวนคอร์ * ความถี่ (Hz) * การปฏิบัติงาน/รอบ
ตัวอย่างเช่น Lunar Lake จะให้ประสิทธิภาพสูงสุด 120 TOPS ซึ่งวัดที่ INT8 โดยไม่มีการกระจายในตัวเร่ง AI ทั้งสามตัว ซึ่งรวมถึงสูงสุด 48 TOPS จาก NPU, สูงสุด 67 TOPS จาก GPU และสูงสุด 5 TOPS จาก CPU