Together AI ล่มไหม?

Together AI ให้บริการโมเดลหลายตัว และแทบไม่เคยมีปัญหาพร้อมกันทั้งหมด หากโมเดลหนึ่งส่งข้อผิดพลาดกลับมา ให้ลองใช้โมเดลอื่นที่มีขนาดใกล้เคียงกัน หากใช้งานได้ แสดงว่าปัญหาจำกัดอยู่แค่โมเดลนั้นหรือฮาร์ดแวร์ที่รันโมเดลดังกล่าว แต่ถ้าโมเดลที่ไม่เกี่ยวข้องกันล้มเหลวพร้อมๆ กัน แสดงว่าตัวแพลตฟอร์มเองกำลังมีปัญหา

ผู้ให้บริการโมเดลส่วนใหญ่รองรับ API ที่เข้ากันได้กับ OpenAI การย้ายทราฟฟิกไปยังโฮสต์อื่นที่ให้บริการโมเดลโอเพนซอร์สเดียวกันจึงมักเปลี่ยนแค่ base URL และ API key เท่านั้น ควรตั้งค่าระบบสำรอง (fallback) นี้ไว้ล่วงหน้าก่อนเกิดปัญหา และระหว่างนั้นให้ลองส่งคำขอที่พบข้อผิดพลาด 5xx ใหม่อีกครั้งโดยเว้นช่วงเวลาให้นานขึ้นเรื่อยๆ

รหัส 429 หมายความว่าคุณใช้งานเกินขีดจำกัดจำนวนคำขอ, token หรือ concurrency ตามแพ็กเกจของคุณ ไม่ได้แปลว่าบริการล่ม ขีดจำกัดจะแตกต่างกันไปตามแต่ละโมเดล ให้กระจายการส่งคำขอ อัปเกรดแพ็กเกจ หรือเลือกโมเดลที่รองรับการใช้งานได้มากกว่า

คำขออาจถูกส่งไปยังฮาร์ดแวร์คนละชุดขึ้นอยู่กับบัญชีและโมเดลที่เลือกใช้ คนสองคนจึงอาจได้ผลลัพธ์ที่ต่างกันในช่วงเวลาเดียวกัน นอกจากนี้ ขีดจำกัดของ API key, รหัสโมเดลที่เจาะจง และภูมิภาคที่คุณเรียกใช้งาน ล้วนมีผลทั้งสิ้น

สำหรับ Together AI เราประมวลผลข้อมูลร่วมกันจากสัดส่วนคำขอที่สำเร็จของโมเดลจาก Together AI บน OpenRouterและรายงานจากผู้ใช้ที่กดปุ่มแจ้งปัญหาในหน้านี้ สัญญาณที่มีปัญหารุนแรงที่สุดและยังเป็นข้อมูลล่าสุดจะเป็นตัวกำหนดสถานะ โดยระบบจะข้ามข้อมูลที่เก่าเกินไปแทนที่จะนำมาใช้วิเคราะห์ หน้านี้จะรีเฟรชโดยอัตโนมัติ สำหรับเกณฑ์การตัดสินโดยละเอียดสามารถดูได้ที่หน้า “วิธีที่เราตรวจสอบ”