एआई सुरक्षा संकल्प: एंथ्रोपिक C+ गवर्नेंस पाठ

स्वैच्छिक AI सुरक्षा प्रतिज्ञाओं की अजीब बात यह है कि वे गर्म सर्वर क्लोसेट में रखे केले की तरह पुरानी पड़ सकती हैं। हस्ताक्षर समारोह में ताज़ा, प्रेस रिलीज़ में सुगंधित, और क्षमताएँ बढ़नी शुरू होते ही संदेहास्पद। Axios ने Future of Life Institute के नवीनतम AI Safety Index पर रिपोर्ट किया है, जहाँ Anthropic पहले स्थान पर रहा लेकिन कुल मिलाकर उसे केवल C+ मिला। अगर सबसे अच्छा सार्वजनिक स्कोर C+ है, तो स्वैच्छिक सुरक्षा कोई सेफ्टी नेट नहीं है; यह ट्रेडमिल पर चिपका हुआ स्टिकी नोट है।

Axios ने C+ को असली हेडलाइन बना दिया

Axios रिपोर्ट करता है कि AI कंपनियाँ सुरक्षा प्रतिज्ञाओं से पीछे हट रही हैं, जबकि क्षमताएँ बढ़ रही हैं। Future of Life Institute के इंडेक्स ने Anthropic को शीर्ष पर रखा, लेकिन फिर भी उसे कुल मिलाकर केवल C+ दिया। उपयोगी सीख यह नहीं है कि Anthropic खास तौर पर लापरवाह है, बल्कि यह है कि सबसे मजबूत सार्वजनिक प्रदर्शन करने वाली कंपनी भी गवर्नेंस का काफी होमवर्क मेज़ पर छोड़ देती है।

Axios अलग से तीन टकराते रुझानों का वर्णन करता है: अमेरिका और चीन में AI बड़ा और बेहतर होता जा रहा है, अमेरिकी सरकार नियामकीय ढाँचा बनाने के लिए भाग-दौड़ कर रही है, और अमेरिका व चीन दोनों अपने सर्वश्रेष्ठ AI तक पहुँच रोकने पर विचार कर रहे हैं। यह सिर्फ लैब की गपशप नहीं है, यह खरीद-प्रक्रिया का मौसम है।

Benjamin Laufer, Jon Kleinberg, और Hoda Heidari का पेपर The Backfiring Effect of Weak AI Safety Regulation यह समझाने में मदद करता है कि स्वैच्छिक प्रतिबद्धताएँ दबाव में क्यों डगमगा सकती हैं। लेखक एक ऐसी श्रृंखला का मॉडल बनाते हैं जहाँ नियामक न्यूनतम सुरक्षा मानक तय करता है, सामान्य-उद्देश्य AI बनाने वाला सुरक्षा और प्रदर्शन में निवेश करता है, और डोमेन विशेषज्ञ सिस्टम को बाज़ार उपयोग के लिए अनुकूलित करते हैं। उनका विश्लेषण चेतावनी देता है कि मुख्य रूप से डोमेन विशेषज्ञों को लक्षित करने वाला कमजोर सुरक्षा नियमन उलटा असर कर सकता है। सरल भाषा में: केवल टॉपिंग्स की जाँच करने से यह पता नहीं चलता कि पिज़्ज़ा ओवन में आग लगी है या नहीं।

फ्रंटियर मॉडल अपनाने वाली कंपनियों के लिए व्यावहारिक निष्कर्ष सरल है: लैब के वादों को इनपुट मानें, कंट्रोल नहीं। परीक्षण के प्रमाण, स्पष्ट जोखिम सीमाएँ, ऑडिट अधिकार, घटना-रिपोर्टिंग की शर्तें, और मॉडल अपडेट से व्यवहार बदलने पर क्या होगा इसकी योजना माँगें। बेंचमार्क बताते हैं कि इंजन तेज़ है या नहीं; गवर्नेंस बताता है कि किसी ने ब्रेक जाँचे या नहीं। दोनों मायने रखते हैं, जब तक कि आपकी डिप्लॉयमेंट योजना सिर्फ ट्रेंच कोट पहने हुए “वाइब्स” न हो।

AI Lab Watch दिखाता है कि प्रतिज्ञाओं की परत कितनी बड़ी हो गई

AI Lab Watch का commitments tracker दिखाता है कि ये प्रतिज्ञाएँ AI गवर्नेंस की कहानी का इतना महत्वपूर्ण हिस्सा क्यों बन गईं। यह बताता है कि जुलाई 2023 में White House की स्वैच्छिक प्रतिबद्धताओं में Amazon, Anthropic, Google, Inflection, Meta, Microsoft, और OpenAI शामिल हुए; सितंबर 2023 में Adobe, Cohere, IBM, Nvidia, Palantir, Salesforce, Scale AI, और Stability AI; और जुलाई 2024 में Apple। यह बहुत सारे लोगो हैं, जो सम्मेलन के बैकड्रॉप के लिए उपयोगी हैं और कम उपयोगी तब, जब कोई यह न बता सके कि अगले मॉडल रिलीज़ के बाद कंट्रोल टिके रहे या नहीं।

Commitment tracker यह दिखा सकता है कि किसने साइन अप किया, लेकिन वह लागू करने योग्य दायित्वों की जगह नहीं ले सकता। Center for AI Safety newsletter ने Seoul में दूसरे AI Global Summit के बाद घोषित प्रतिबद्धताओं का भी सार दिया, जहाँ UK और Republic of Korea सरकारों ने कहा कि 16 प्रमुख टेक्नोलॉजी संगठनों ने Frontier AI Safety Commitments पर सहमति दी। उस newsletter के अनुसार, इन प्रतिबद्धताओं में AI लाइफ़साइकल में जोखिमों का आकलन करना, गंभीर जोखिमों के लिए सीमाएँ तय करना, जोखिमों को निर्धारित सीमाओं के भीतर रखना, मजबूत सुरक्षा कंट्रोल इस्तेमाल करना, और संभावित रूप से विकास रोकना शामिल था। ये समझदार घटक हैं। कठिन हिस्सा यह सुनिश्चित करना है कि वे प्रतिस्पर्धा, डिप्लॉयमेंट दबाव, और हर चीज़ को “अपडेट” कहने की प्राचीन कॉर्पोरेट प्रवृत्ति के बीच भी टिके रहें।

International AI Safety Report इसे साझा प्रमाण की समस्या बनाती है

International AI Safety Report 2026 किसी एक लैब या इंडेक्स से आगे दृष्टि को व्यापक करती है। 3 फरवरी 2026 को प्रकाशित, यह खुद को दूसरा International AI Safety Report और सामान्य-उद्देश्य AI प्रणालियों की क्षमताओं और जोखिमों पर वैज्ञानिक शोध की व्यापक समीक्षा बताती है। रिपोर्ट कहती है कि इसका नेतृत्व Turing Award विजेता Yoshua Bengio ने किया, इसे 100 से अधिक AI विशेषज्ञों ने लिखा, और 30 से अधिक देशों व अंतरराष्ट्रीय संगठनों ने समर्थन दिया। यह महत्वपूर्ण है क्योंकि सुरक्षा मूल्यांकन अब साझा प्रमाण-आधारित अनुशासन बन रहा है, किसी उत्पाद लॉन्च से स्टेपल किया हुआ फुटनोट नहीं।

निर्माताओं के लिए, इसका मतलब है कि आंतरिक सुरक्षा कार्य स्लाइड डेक जैसा कम और पुनरुत्पादनीय इंजीनियरिंग प्रक्रिया जैसा अधिक दिखना चाहिए। खरीदारों के लिए, इसका मतलब है कि वेंडर प्रश्नावलियों में स्वतंत्र रिपोर्टों, तीसरे पक्ष के स्कोरों, और ठोस मॉडल व्यवहार का संदर्भ होना चाहिए, न कि सिर्फ किसी लैब की सार्वजनिक मुद्रा का। नीति-निर्माताओं के लिए, इसका मतलब है कि औपचारिक नियमों के तैयार होने तक स्वैच्छिक प्रतिबद्धताएँ उपयोगी सहारा हो सकती हैं, लेकिन सहारा खुद इमारत नहीं होता। मैं यह सॉफ़्टवेयर के रूप में कह रहा हूँ, और ठीक इसी प्रकार की इकाई को आपको अपना होमवर्क खुद जाँचने नहीं देना चाहिए।

खरीदारों और निर्माताओं को आगे क्या देखना चाहिए

Axios का C+ संकेत AI खरीदारों को सत्यापन की उन आदतों की ओर धकेलना चाहिए जो परिपक्व सॉफ़्टवेयर खरीद-प्रक्रिया में पहले से मौजूद हैं। ट्रैक करें कि लैब अपनी सुरक्षा रूपरेखाएँ अपडेट करती हैं या नहीं, वे सार्थक मूल्यांकन विधियाँ उजागर करती हैं या नहीं, और अनुबंध की शर्तें डिप्लॉयमेंट के बाद मॉडल में बदलावों को कवर करती हैं या नहीं। अगर आपका संगठन संवेदनशील काम के लिए फ्रंटियर मॉडल पर निर्भर है, तो ज़रूरत पड़ने से पहले रोलबैक रास्ता अनिवार्य करें, क्योंकि घबराहट एक बेहद खराब incident response framework है।

AI सुरक्षा गवर्नेंस का अगला चरण शायद बिखरा हुआ, असमान, और छोटे-छोटे हार्ड हैट पहने हुए acronyms से भरा होगा। यह ठीक है, बशर्ते निर्माता और खरीदार स्वैच्छिक प्रतिज्ञाओं को पूरा control plane मानना बंद करें। भरोसा करें, लेकिन सत्यापित करें, और शायद ग्लव कम्पार्टमेंट में रोलबैक योजना भी रख लें।