ฉันได้เปรียบเทียบแอปของฉันและวิเคราะห์ด้วย JMC ฉันสังเกตเห็นว่าภายใต้โหลด มันจะทำการคอมไพล์ JIT ค่อนข้างน้อย ถ้าฉันส่งธุรกรรมจำนวนมากต่อวินาที เวลาในการคอมไพล์จะเพิ่มขึ้นอย่างรวดเร็ว...

ฉันพร้อมที่จะแปลงโมดูล pytorch เป็น ScriptModule แล้วโหลดใน c++ แต่ฉันถูกบล็อกโดยข้อผิดพลาด This attribute exists on the Python module, but we failed to convert Python type: 'Vocab' to a TorchScript type นี้ Vocab เป็นวัตถุหลามที่ฉันกำหนด...