Cohere có bị sập không?

Hãy kiểm tra mã trạng thái HTTP. 401 và 403 là lỗi khóa API hoặc quyền truy cập, 400 và 422 là yêu cầu sai định dạng, 429 là chạm giới hạn rate limit hoặc hạn mức chi tiêu. Chỉ các mã 500, 502, 503, 504 và lỗi timeout mới xuất phát từ phía Cohere. Nếu trang này báo xanh mà bạn vẫn gặp các lỗi trên, hãy thử gửi một request rút gọn bằng curl để loại trừ nguyên nhân từ thư viện client hoặc proxy.

Hãy thử gửi lại (retry) các phản hồi 429 và 5xx với cơ chế exponential backoff kèm một chút độ trễ ngẫu nhiên (jitter), giới hạn số lần thử và đặt timeout hợp lý để các luồng stream bị treo không bị dồn ứ. Với các tính năng hiển thị trực tiếp cho người dùng, hãy cấu hình sẵn mô hình dự phòng từ nhà cung cấp khác để tự động chuyển sang khi gặp lỗi liên tiếp — danh sách phía trên sẽ cho bạn biết những dịch vụ nào đang hoạt động tốt.

Hạn mức được tính theo tổ chức và theo từng model, do đó tài khoản của bạn có thể bị bóp băng thông trong khi người khác vẫn dùng bình thường. Các model mới ra mắt hoặc rất lớn cũng thường là đối tượng đầu tiên bị giới hạn rate limit vào giờ cao điểm. Hãy kiểm tra trang mức sử dụng của tài khoản, thử dùng model nhỏ hơn và đảm bảo bạn đang gọi đúng base URL cùng khu vực (region).

Hãy quan sát thời gian trả về token đầu tiên thay vì tổng thời gian. Trên các yêu cầu thử nghiệm của chúng tôi, tình trạng phản hồi chậm sẽ được ghi nhận khi token đầu tiên mất hơn 3 giây và lâu gấp ba lần mức trung vị trong ngày. Các prompt dài và kết quả dài vốn dĩ mất nhiều thời gian, do đó không được coi là sự cố.

Với Cohere, chúng tôi kết hợp trang trạng thái chính thức của Cohere (được đọc mỗi phút), tỷ lệ yêu cầu thành công đối với các mô hình của Cohere trên OpenRouter và báo cáo từ người dùng nhấn nút trên trang này. Tín hiệu cảnh báo nghiêm trọng nhất và còn mới sẽ quyết định trạng thái hiển thị; dữ liệu cũ sẽ bị bỏ qua thay vì dùng để đánh giá. Trang này tự động làm mới; các ngưỡng cụ thể được nêu tại trang “Cách kiểm tra”.