Skip to main content

Errors

ให้ตรวจ HTTP status ก่อน แล้วจึงใช้ error.code หากมี: อย่า retry 401, 402 หรือ 403 อัตโนมัติ และอย่า log API key, authorization header หรือ signed media URL English version

รหัส runtime

  • context_length_exceeded (400): prompt ประเมินแล้วยาวเกิน input window ของ model (details.estimated_input, details.input_limit หน่วยเป็น token) ให้ย่อ prompt หรือเลือก model ที่ context ใหญ่กว่า เกิดเฉพาะ deployment ที่เปิด pre-check (CONTEXT_LIMIT_REJECT=1 ร่วมกับ credit reservation) กับ model ที่ Prism รู้ขนาด window และเฉพาะเมื่อนับแบบประหยัดที่สุดแล้วยังเกิน 5% ไม่เช่นนั้นจะได้ error ของ provider แทน
  • model_not_found (404): model id ไม่อยู่ใน catalog ที่ key ของคุณมองเห็น ไม่ควร retry
  • runtime_target_unavailable (503): model ถูกตั้งค่าให้ media runtime ซึ่ง endpoint นี้ไปไม่ถึง ไม่ควร retry เป็นการตั้งค่าฝั่งผู้ดูแล
  • model_runtime_unconfigured (503): media line ยังไม่ได้ตั้งค่าบน deployment นี้ ไม่ควร retry
  • provider_not_configured (503): provider ของ model นี้ยังไม่มี credential บน deployment นี้ ไม่ควร retry