Nasıl kontrol ediyoruz?

Birden fazla kaynak, tek bir net yanıt

Her servis için en fazla dört bağımsız sinyal topluyoruz. Bunların herhangi biri alarm verebilir ve güncelliğini koruyan en ciddi sinyal ekranda gördüğünüz durumu belirler. Sessizleşen veya güncelliğini yitiren kaynaklar dikkate alınmaz.

Kendi gönderdiğimiz test istekleri

API erişimimiz olan servislerde, küçük bir robot her bir-iki dakikada bir doğrudan sağlayıcının kendi API'sine kısa bir streaming istemi gönderir ve ilk token'ın ne kadar sürede döndüğünü ölçer. Başarısız bir deneme, geçerli sayılmadan önce yirmi saniye arayla iki kez tekrarlanır. Hız sınırı (rate-limit) yanıtları ve kendi yapılandırma hatalarımız elenir; böylece sağlıklı bir servis bozuk gibi görünmez.

• Çalışmıyor art arda yapılan son üç kontrol başarısız olduğunda
• Kısmen kesintide son on dakikadaki kontrollerin yarısı veya daha fazlası başarısız olduğunda
• Yavaş veya aksıyor en az her beş kontrolden biri başarısız olduğunda veya ilk token 3 saniyeden uzun sürüp son günün medyan süresinin üç katını aştığında

Sağlayıcının kendi durum sayfası

Resmî durum sayfalarını her dakika kontrol ediyor ve yalnızca ilgili servis için geçerli olan bileşenlere bakıyoruz; örneğin OpenAI'ın tüm sistemlerine değil, yalnızca ChatGPT bileşenlerine. Bir sayfa on beş dakikadır güncellenmediyse onu yok sayıyoruz; donmuş bir durum sayfası bir servisi ne yeşil ne de kırmızı tutabilmelidir.

OpenRouter üzerindeki gerçek trafik

OpenRouter, her sağlayıcıdaki tüm modeller için kaç isteğin başarılı olduğunu yayımlar. Bir sağlayıcının doğrudan kendi endpoint'lerinden sunulan modellerini inceliyoruz. Bunlardan en az iki tanesi ve tüm modellerin en az yarısı, son 30 dakikada %80 başarının altına düşer ve günlük seviyelerinin on puan gerisinde kalırsa servis yavaş veya aksıyor olarak işaretlenir; ortalama %50'nin altındaysa kısmen kesintide sayılır.

Üç veya daha fazla sağlayıcı aynı anda düşüş yaşarsa ortak sorunun OpenRouter kaynaklı olduğu anlaşılır ve bu sinyal tüm sağlayıcılar için devre dışı bırakılır.

Kullanıcı bildirimleri

Her servis sayfasında bir “Sorun yaşıyorum” butonu bulunur. On beş dakika içinde o servis için normal hızın dört katına ulaşan on veya daha fazla bildirim gelirse servis yavaş veya aksıyor olarak işaretlenir. Bildirimler tek başına bir servisi asla tamamen çalışmıyor durumuna getiremez; her ziyaretçi aynı servis için yarım saatte bir kez sayılır ve saatlik bir üst sınır uygulanır.

Asılsız alarmları önleme

Durum kararı her 30 saniyede bir yeniden hesaplanır. Bir servisin yeniden “çalışıyor” durumuna dönmesi için üç dakika boyunca tamamen sorunsuz kalması gerekir; böylece iyi ve kötü durum arasında gidip gelen bir API, bu sayfada sürekli durum değiştirmez.

Renkli çubukları okuma

24 saatlik çubuk, her biri yarım saatlik 48 parçadan oluşur; 30 günlük çubukta ise her güne bir parça düşer. Her parça, ilgili zaman aralığında görülen en kötü durumun rengini alır. Gri renk, o sırada elimizde veri olmadığı anlamına gelir; her şeyin yolunda gittiği anlamına değil.

Neleri göremiyoruz?

Botlarımız Avrupa'daki bir veri merkezinde çalışır; bu nedenle tek bir ülkeyle, bir mobil operatörle veya tek bir ofisle sınırlı arızalar bize hiç yansımayabilir. Hesabınızın limitlerini veya faturalandırma durumunu göremeyiz. Ayrıca Midjourney gibi bazı servislerin ne herkese açık bir API'si ne de durum sayfası bulunur; bu servisler için elimizdeki tek kaynak ziyaretçi bildirimleridir.

Veriler nereden geliyor?

isAIlive, izleme altyapısını bizzat işleten llmlive.ai'ın kardeş projesidir; iki site de aynı ölçümleri okur. Bu site yalnızca tek bir şeyi gösterir: İhtiyacınız olan araç şu anda çalışıyor mu?

llmlive.ai →

Durumlar ne anlama geliyor?

• Çalışıyor Hiçbir kaynak bir sorun tespit etmedi.
• Bakımda Sağlayıcı planlı bir çalışma duyurdu.
• Yavaş veya aksıyor Hatalar veya yavaşlık var ancak isteklerin çoğu tamamlanıyor.
• Kısmen kesintide İsteklerin büyük kısmı veya belirli bir özellik çalışmıyor.
• Çalışmıyor Servis çoğu kullanıcı için çalışmıyor.
• Veri yok Hiçbir kaynaktan güncel veri alınamıyor.