Together AI 崩了吗？

Together AI 托管了许多模型，通常不会全部同时故障。如果某个模型报错，可以尝试另一个参数量相近的模型：如果它能正常运行，说明问题仅限于该模型或其运行的硬件。如果多个完全无关的模型在同一时刻报错，那就是平台本身出现了问题。

大多数模型托管商都兼容 OpenAI API，因此将流量迁移到托管相同开源模型的其他服务商，通常只需更改 base URL 和 key 即可。建议在故障发生前就配置好容灾备用方案，同时对于 5xx 错误，可以采用递增延迟的方式进行重试。

429 错误意味着你触碰了当前套餐的请求数、token 或并发上限，并不代表服务本身发生故障。不同模型的限制有所不同：你可以分散请求、升级套餐，或者切换到用量额度更充裕的模型。

请求会根据具体账号和模型被分发到不同的硬件节点上，因此两个人在同一分钟内可能会遇到完全不同的情况。你所用 key 的限制、具体的模型 ID 以及你发起调用的网络区域都会产生影响。

针对 Together AI，我们综合参考OpenRouter 上 Together AI 相关模型的请求成功率和本页面收到的用户故障反馈。我们会以最新且最严重的状态信号为准，并自动忽略过期数据以保证准确性。页面会自动刷新；具体的判定阈值可在我们的“检测机制”页面查看。