จะอธิบายการเร่งความเร็วซูเปอร์เชิงเส้นที่พบในอุปกรณ์ GPU ด้วยรหัส CUDA ได้อย่างไร

การเปิดตัวเคอร์เนลที่ประกอบด้วย 1 เธรดจะจำกัดการทำงานของเคอร์เนลไว้ที่ 1 ใน 30 SM สำหรับแต่ละคำสั่งวาร์ปที่ออกเพียง 1/32 ของหน่วยปฏิบัติการจะถูกใช้ นอกจากนี้คำแนะนำจากวาร์ปเดียวกันไม่สามารถออกในช่องปัญหาย้อนหลัง โดยปล่อยให้ช่องปัญหาว่างเปล่าอย่างน้อย 1/2 สล็อตเพิ่มเติมจะว่างเปล่าสำหรับการขึ้นต่อกันของคำสั่งและเวลาแฝงของหน่วยความจำ โดยปล่อยให้ความเร็วเพิ่มขึ้น 2-4 เท่า สมมติว่า 2x ในแง่ร้ายจริงๆ การคำนวณคร่าวๆ ของกำไรที่เป็นไปได้คือ

30x increase for using all 30 SMs
32x increase for using full width of the execution units
 2x increase for using issue slots and saturating memory system
= 30 * 32 * 2
= >1920x performance increase

คุณจะเห็นความแตกต่าง 1872/.87 = 2152x สิ่งนี้สามารถอธิบายได้ง่ายโดย >2x เนื่องจากสล็อตปัญหาว่างเปล่า และความจริงที่ว่า 1 วาร์ปต่อ SM ไม่สามารถทำให้ระบบหน่วยความจำอิ่มตัวได้