ข่าวเผยแพร่โดย CloudAI Thailand
AWS เพิ่ม fallback ใน AgentCore
ประเด็นสำคัญ
แผนสำรองต้องทดสอบทั้งก่อนคำตอบเริ่มและหลังส่งบางส่วนแล้ว ระบุว่าใคร retry วิธีป้องกันงานซ้ำ และต้นทุนของแต่ละความพยายามถูกนับอย่างไร
- ข่าววันที่
- ตรวจทานล่าสุด
- เวลาอ่าน
- ประมาณ 2 นาที

AWS เพิ่มลำดับโมเดลสำรอง
AWS เปิด model fallback สำหรับ AgentCore Gateway วันที่ 22 ตุลาคม 2026 ให้กำหนดปลายทางสำรองตามเงื่อนไขผิดพลาดได้ RSS ของ AWS ยืนยันวันประกาศเดียวกัน
คู่มือ routing ปัจจุบัน ระบุว่าสลับไม่ได้หลังเริ่ม streaming และคิด gateway invocation ตามความพยายามส่งออก โดยค่าโมเดลคิดแยกกัน การมองว่า client ส่งหนึ่งคำขอจึงยังไม่พอสำหรับประเมินผลและต้นทุน
ทดลองจุดขาดแทนการดูเฉพาะกรณีสำเร็จ
ข้อเสนอสำหรับทีมเลือกบริการคือกำหนดผลที่ผู้ใช้ควรเห็นเมื่อคำตอบขาด และข้อมูลใดที่ต้องเก็บเพื่อทำต่อ ไม่แสดงข้อความที่ยังไม่ครบเป็นเอกสารพร้อมใช้
| สถานการณ์ | พฤติกรรมที่ต้องตกลง | หลักฐานในการทดลอง |
|---|---|---|
| ยังไม่ได้ข้อมูลไบต์แรก | รอ สลับ หรือหยุดตามเกณฑ์ | ปลายทางและเวลาของแต่ละความพยายาม |
| คำตอบเริ่มแล้วขาด | แจ้งว่าไม่ครบและรับงานต่อ | ส่วนที่ส่งไปกับ error ที่เกิด |
| ต้อง retry | ไม่ทำคำสั่งธุรกิจซ้ำ | ตัวระบุงานและรายการผลที่เกิดแล้ว |
| โมเดลสำรองตอบต่างรูปแบบ | ตรวจผลก่อนส่งต่อ | ผลตรวจโครงสร้างและเนื้อหา |
| ทุกปลายทางล้มเหลว | ส่งคิวให้ผู้รับผิดชอบ | เหตุสุดท้ายและเจ้าของงานค้าง |
ตารางนี้เป็นชุดทดสอบที่เสนอ ใช้ข้อมูลจำลองก่อนเชื่อมงานที่เขียนข้อมูลหรือส่งผลออกนอกระบบ แล้วเก็บผลทุกความพยายามภายใต้ตัวระบุงานเดียวกัน
คิดต้นทุนต่อผลงานที่ใช้ได้
รวมเวลา retry ภาระคนตรวจ และค่าใช้จ่ายของเส้นทางสำรองไว้ในเกณฑ์ผ่าน สำหรับ Mimir Suites Cloud ข้อความเอกสารส่งไปโมเดลคลาวด์โดยปิดบัง PII เป็นค่าเริ่มต้น การประเมินผู้ให้บริการสำรองยังต้องตรวจปลายทางข้อมูลแยกด้วย
วิดีโอ AgentCore ปี 2025 เป็นบริบทแพลตฟอร์มก่อนเพิ่ม fallback นำสถานการณ์ขาดช่วงไปใส่ วิธีประเมินงานคลาวด์ ก่อนใช้จำนวนคำขอสำเร็จเป็นเกณฑ์รับมอบ
คำถามที่พบบ่อย
- มี fallback แล้วรับรองคำตอบ streaming ไม่ขาดได้หรือไม่
- คู่มือระบุว่าสลับปลายทางไม่ได้หลัง streaming เริ่มแล้ว client อาจได้คำตอบบางส่วนกับ error จึงต้องออกแบบการรับมือและ retry แยกต่างหาก
- ควรนับต้นทุนจากจำนวนคำขอของผู้ใช้อย่างเดียวหรือไม่
- ให้รวมความพยายามภายในที่เกิดขึ้นจริง ตรวจ gateway กับค่าโมเดลแยกกัน และเทียบต้นทุนต่อผลงานที่ตรวจผ่านแทนจำนวนคำขอเริ่มต้น
วิดีโอที่เกี่ยวข้อง
Amazon Bedrock AgentCore: Deploy & Operate AI Agents in Minutes | Amazon Web Services
Amazon Web Services · เผยแพร่
วิดีโอประกอบความเข้าใจ
ดูวิดีโอต้นทางบน YouTube
แหล่งข้อมูล
- AgentCore Gateway now supports Bedrock InvokeModel APIs and model fallback
Amazon Web Services
- เผยแพร่ต้นทาง
- เข้าถึงข้อมูล
- AWS What’s New RSS: AgentCore Gateway now supports Bedrock InvokeModel APIs and model fallback
Amazon Web Services
- เผยแพร่ต้นทาง
- เข้าถึงข้อมูล