एआई स्व-नियमन: एंथ्रोपिक, ओपनएआई और डारियो अमोदेई का विश्लेषण

मैं उस सार्वजनिक स्विमिंग पूल पर लगे लैमिनेटेड बोर्ड के बारे में बार-बार सोचता हूँ, जहाँ मैं बड़ा हुआ: दौड़ना मना है, काँच लाना मना है, उथले हिस्से में डाइविंग मना है। किसी ने भी उसे राजनीतिक सिद्धांत समझने की भूल नहीं की। वह बस वह सामाजिक अनुबंध था, जिसकी ज़रूरत बहुत सारे उत्साहित लोगों को पानी के एक जोखिम भरे आयताकार हिस्से को साझा करने देने के लिए थी। अब AI के सामने भी एक पूल-बोर्ड जैसी समस्या है, फर्क बस इतना है कि सबसे ताकतवर तैराक ही बोर्ड लिखने, बाड़ लगाने, और यह तय करने की पेशकश कर रहे हैं कि सुरक्षित व्यवहार किसे माना जाए।

नियम-पुस्तिका से पहले पैच

MIT Technology Review ने बताया कि 21 जुलाई, 2023 को सात प्रमुख AI कंपनियों, Amazon, Anthropic, Google, Inflection, Meta, Microsoft, और OpenAI ने सुरक्षित और भरोसेमंद तरीके से AI विकसित करने को लेकर व्हाइट हाउस के साथ आठ स्वैच्छिक प्रतिबद्धताएँ कीं। प्रकाशन के अनुसार, इन प्रतिबद्धताओं में AI प्रणालियों के परीक्षण और पारदर्शिता को बेहतर बनाना, साथ ही संभावित नुकसानों और जोखिमों पर जानकारी साझा करना शामिल था। एक साल बाद, MIT Technology Review ने पाया कि रेड टीमिंग और वॉटरमार्क जैसे अभ्यासों में स्वागतयोग्य प्रगति हुई है, लेकिन उसने कहा कि सार्थक पारदर्शिता या जवाबदेही नहीं है।

यही वह तनाव है जो स्वैच्छिक प्रतिबद्धता वाक्यांश के अंदर छिपा है। जब कानून बनाने वाले धीरे चल रहे हों और उत्पाद टीमें तेज़ी से चीज़ें जारी कर रही हों, तब यह सचमुच उपयोगी हो सकती है। MIT Technology Review ने यह भी नोट किया कि बाद में आठ और कंपनियों ने व्हाइट हाउस की प्रतिबद्धताओं पर हस्ताक्षर किए, और एक कार्यकारी आदेश ने उन्हें आगे बढ़ाते हुए नई AI मॉडलों के सुरक्षा-परीक्षण परिणाम अमेरिकी सरकार के साथ साझा करने की आवश्यकता जोड़ी, यदि परीक्षण राष्ट्रीय सुरक्षा जोखिम दिखाते हैं। एक पैच किसी तत्काल बग को ठीक कर सकता है, लेकिन यह भी बताता है कि कमिट एक्सेस किसके पास है।

जब समन्वय सुरक्षा जैसा सुनाई देता है

स्व-नियमन के पक्ष में आशावादी तर्क BBC Sounds ने दर्ज किया, जिसने बताया कि Sam Altman ने कहा कि उनकी जैसी AI कंपनियाँ मूल रूप से खुद को नियंत्रित करने में सक्षम थीं। Altman ने कहा, "हम इसे सही करेंगे, मुझे अपनी कंपनी और उद्योग की इसे सुरक्षित तरीके से करने की क्षमता पर बहुत भरोसा है," और जोड़ा कि कंपनियाँ "alignment और safety को capabilities से बहुत आगे रखेंगी" और, अगर वे ऐसा नहीं कर सकीं, तो "धीमा करेंगी या रुक जाएँगी।" यह एक शक्तिशाली वादा है क्योंकि यह समन्वय को नियंत्रण के बजाय संयम के रूप में प्रस्तुत करता है।

इस तर्क का एक गंभीर रूप भी है। MLex ने नवंबर 2024 में रिपोर्ट किया कि अमेरिकी AI कंपनियों ने कहा कि वे व्हाइट हाउस से की गई स्वैच्छिक सुरक्षा प्रतिबद्धताओं को पूरा करने पर काम कर रही हैं, जिसमें अपनी तकनीकों और जोखिमों के बारे में सरकार और जनता को जानकारी देना शामिल है। निर्माण करने वालों के लिए, इस तरह का समन्वय परीक्षण, खुलासे, और घटना-प्रतिक्रिया के आसपास साझा अपेक्षाएँ बना सकता है। समस्या तब शुरू होती है जब कोई सुरक्षा-मानक बाज़ार का गेट बन जाता है, और जिन लोगों ने गेट को परिभाषित करने में मदद की, वही उसे पार करने के लिए सबसे बेहतर तरीके से तैयार होते हैं।

नियम के भीतर छिपा बाज़ार

MLex ने सितंबर 2026 में रिपोर्ट किया कि प्रमुख AI कंपनियाँ EU में frontier AI के लिए उद्योग-नेतृत्व वाले सुरक्षा मानकों पर ज़ोर दे रही थीं। यह वाक्यांश, उद्योग-नेतृत्व वाला, बहुत काम कर रहा है। इसका मतलब यह हो सकता है कि प्रणालियों के सबसे करीब मौजूद लोग नियामकों को तेज़ी से बदलते तकनीकी जोखिम को समझने में मदद करें, या इसका मतलब यह हो सकता है कि सबसे बड़ी कंपनियाँ अपने ही संचालन मॉडल को डिफ़ॉल्ट अनुपालन मॉडल में बदल दें।

WIRED ने बताया कि Anthropic ने संयुक्त राज्य अमेरिका में frontier AI सुरक्षा कानूनों की पहली लहर का समर्थन किया, जिसमें California और New York में पारदर्शिता संबंधी आवश्यकताएँ शामिल थीं, जिनका Silicon Valley के बड़े हिस्से ने इस आधार पर विरोध किया कि वे AI boom को धीमा कर सकती हैं। WIRED ने यह भी रिपोर्ट किया कि Anthropic अब राज्यों को कठोर नियमों की ओर धकेल रही है, जबकि उसका कहना है कि सबसे शक्तिशाली AI प्रणालियों के लिए पारदर्शिता और self reporting अब पर्याप्त नहीं हैं। यह Anthropic को आधुनिक AI governance पहेली का असामान्य रूप से स्पष्ट उदाहरण बनाता है: कोई कंपनी सुरक्षा को लेकर ईमानदार हो सकती है और फिर भी ऐसे नियमों से लाभ उठा सकती है जिन्हें पूरा करने में छोटे प्रतिद्वंद्वियों को कठिनाई हो सकती है। Governance सिर्फ सूट पहनी हुई ethics नहीं है; यह public-interest शब्दावली के साथ go-to-market रणनीति भी है।

बिल्डरों को आगे क्या देखना चाहिए

असहज सवाल यह नहीं है कि AI नेता जो कह रहे हैं, उस पर विश्वास करते हैं या नहीं। कुछ स्पष्ट रूप से करते हैं, और MIT Technology Review की रिपोर्टिंग संकेत देती है कि स्वैच्छिक प्रतिबद्धताओं ने उद्योग के कुछ हिस्सों को बेहतर अभ्यासों की ओर धकेला है। ज्यादा तीखा सवाल यह है कि समन्वय स्वतंत्र जवाबदेही बनाता है या मुख्य रूप से उन कंपनियों का क्लब तैयार करता है जो समन्वय करने के लिए पर्याप्त बड़ी हैं। यदि मानक के लिए महँगा परीक्षण, विशेष कानूनी टीमें, और नियामकों तक लगातार पहुँच की आवश्यकता हो, तो सुरक्षा एक खाई बन सकती है, भले ही कोई उसे ऐसा न कहे।

उत्पाद नेताओं के लिए, व्यावहारिक कदम यह है कि सुरक्षा परिणामों को संस्थागत सुविधा से अलग किया जाए। पूछें कि क्या प्रस्तावित नियम बाहरी लोगों को अनुपालन का मूल्यांकन करने के लिए पर्याप्त जानकारी प्रकाशित करते हैं, क्या audits स्वतंत्र पक्षों द्वारा किए जा सकते हैं, और क्या छोटे developers के पास उसी स्तर को पूरा करने का विश्वसनीय रास्ता है। निवेशकों के लिए, देखें कि क्या विनियमन इस श्रेणी में भरोसा बढ़ाता है या केवल मैदान को उन कंपनियों तक सीमित कर देता है जिनके पास पहले से compute, distribution, और policy relationships हैं। अगली frontier AI rulebook सचमुच जोखिम घटा सकती है, लेकिन यह यह भी तय करेगी कि निर्माण जारी रखने का मौका किसे मिलेगा, इसलिए जब सबसे बड़ी labs समन्वय करने को कहती हैं, तो क्या हम सुरक्षा-ढाँचे को आकार लेते देख रहे हैं, या भविष्य का बाज़ार अपनी सीमाएँ खुद खींच रहा है?