जाँच का तरीक़ा

कई स्रोत, एक सटीक जवाब

हम हर सेवा के लिए चार स्वतंत्र स्रोतों से डेटा जुटाते हैं। इनमें से कोई भी स्रोत समस्या की चेतावनी दे सकता है, और जो सबसे ताज़ा व गंभीर संकेत होता है, वही स्थिति आपको दिखाई देती है। जो स्रोत शांत हो जाता है या पुराना पड़ जाता है, उस पर भरोसा करने के बजाय उसे छोड़ दिया जाता है।

हमारे द्वारा भेजी जाने वाली टेस्ट रिक्वेस्ट

जहाँ हमारे पास API एक्सेस होता है, वहाँ एक छोटा बॉट हर एक से दो मिनट में वेंडर के अपने API पर एक छोटा स्ट्रीमिंग प्रॉम्प्ट भेजता है और मापता है कि पहला टोकन कितनी देर में आया। किसी विफल प्रयास को दर्ज करने से पहले, बीस सेकंड के अंतर पर दो बार दोबारा आज़माया जाता है। रेट-लिमिट वाले जवाबों और हमारे अपने कॉन्फ़िगरेशन की गलतियों को बाहर कर दिया जाता है, ताकि किसी सही सेवा को ग़लती से ख़राब न माना जाए।

• डाउन है लगातार पिछली तीन जाँचें विफल रहीं
• आंशिक रूप से डाउन पिछले दस मिनट में आधी या उससे अधिक जाँचें विफल रहीं
• धीमा या समस्याग्रस्त पाँच में से कम से कम एक जाँच विफल रही, या पहले टोकन में 3 सेकंड से ज़्यादा समय लगा और यह पिछले दिन के मीडियन से तीन गुना धीमा रहा

वेंडर का अपना स्टेटस पेज

हम हर मिनट आधिकारिक स्टेटस पेजों की जाँच करते हैं और केवल संबंधित सेवा से जुड़े हिस्सों को ही देखते हैं — जैसे ChatGPT के लिए केवल ChatGPT के घटक, न कि OpenAI की पूरी व्यवस्था। अगर किसी पेज को पंद्रह मिनट से अपडेट नहीं किया गया है, तो हम उसे अनदेखा कर देते हैं: रुका हुआ स्टेटस पेज किसी सेवा को हरा या लाल बनाए रखने का कारण नहीं बनना चाहिए।

OpenRouter से वास्तविक ट्रैफ़िक

OpenRouter हर प्रोवाइडर के प्रत्येक मॉडल की सफल रिक्वेस्ट का डेटा दिखाता है। हम किसी वेंडर के उन्हीं मॉडलों को ट्रैक करते हैं जो उसके अपने एंडपॉइंट्स से चलते हैं। जब उनमें से कम से कम दो मॉडल, और पूरे सेट के कम से कम आधे मॉडल, 30 मिनट में 80% से कम सफलता दर पर आ जाते हैं और अपने दैनिक स्तर से दस अंक नीचे चले जाते हैं, तो सेवा को “धीमा या समस्याग्रस्त” माना जाता है; औसतन 50% से नीचे आने पर, “आंशिक रूप से डाउन”।

यदि एक ही समय में तीन या अधिक वेंडरों की स्थिति गिरती है, तो इसका साझा कारण खुद OpenRouter होता है, इसलिए उस समय सभी के लिए इस सिग्नल को अलग रख दिया जाता है।

उपयोगकर्ताओं की रिपोर्ट

हर सेवा के पेज पर “मुझे समस्या आ रही है” बटन होता है। अगर पंद्रह मिनट में उस सेवा की सामान्य गति से चार गुना ज़्यादा और कम से कम 10 रिपोर्टें आती हैं, तो उसे “धीमा या समस्याग्रस्त” चिह्नित किया जाता है। केवल रिपोर्टों के आधार पर किसी सेवा को कभी भी “डाउन है” नहीं माना जाता, और हर विज़िटर की रिपोर्ट को प्रति सेवा हर आधे घंटे में केवल एक बार गिना जाता है, जिसकी प्रति घंटा एक सीमा तय होती है।

ग़लत अलार्म से बचाव

स्थिति का हर 30 सेकंड में दोबारा आकलन किया जाता है। दोबारा “चालू है” दिखने के लिए, सेवा को पूरे तीन मिनट तक सही स्थिति में रहना ज़रूरी है, ताकि बार-बार ऊपर-नीचे होने वाली API इस पेज पर फ़्लिकर न करे।

रंगीन बार को समझना

24 घंटे की पट्टी में आधे-आधे घंटे की 48 पट्टियाँ हैं; 30 दिन की पट्टी में हर दिन के लिए एक पट्टी है। किसी पट्टी का रंग उस दौरान दर्ज की गई सबसे ख़राब स्थिति के आधार पर तय होता है। सलेटी रंग का मतलब है कि उस समय हमारे पास कोई डेटा नहीं था — इसका यह मतलब नहीं कि सब कुछ ठीक था।

हम क्या नहीं देख सकते

हमारे बॉट्स यूरोप के एक डेटा सेंटर से काम करते हैं, इसलिए किसी एक देश, मोबाइल नेटवर्क या दफ़्तर तक सीमित समस्या शायद हम तक कभी न पहुँचे। हम आपके खाते की सीमाएँ (limits) या बिलिंग की स्थिति नहीं देख सकते। इसके अलावा, Midjourney जैसी कुछ सेवाओं का न तो कोई सार्वजनिक API है और न ही स्टेटस पेज; इनके लिए केवल उपयोगकर्ताओं की रिपोर्ट ही एकमात्र ज़रिया हैं।

ये आँकड़े कहाँ से आते हैं

isAIlive, llmlive.ai का एक सहयोगी प्रोजेक्ट है, जो सीधे तौर पर मॉनिटरिंग करता है; दोनों वेबसाइटें एक ही डेटा का उपयोग करती हैं। यह साइट केवल एक बात दिखाती है — क्या आपकी ज़रूरत का टूल इस समय काम कर रहा है या नहीं।

llmlive.ai →

इन शब्दों का क्या मतलब है

• चालू है किसी भी स्रोत को कोई समस्या नहीं दिखी।
• रखरखाव कंपनी ने योजनाबद्ध काम की घोषणा की है।
• धीमा या समस्याग्रस्त धीमापन या गड़बड़ियाँ हैं, लेकिन अधिकतर अनुरोध पूरे हो रहे हैं।
• आंशिक रूप से डाउन अनुरोधों का एक बड़ा हिस्सा या कोई पूरा फ़ीचर काम नहीं कर रहा है।
• डाउन है ज़्यादातर उपयोगकर्ताओं के लिए यह सेवा ठप है।
• कोई डेटा नहीं किसी भी स्रोत से कोई नया डेटा उपलब्ध नहीं है।