एआई जोखिम अंतराल विश्लेषण: सबसे खराब स्थिति का कोई परिमाणीकरण नहीं

न्यूयॉर्क सिटी हॉल में सबसे ज़्यादा खुलासा करने वाली संख्या वही थी जो कोई दे ही नहीं सका। OpenAI, Meta, Anthropic और Google के नेताओं ने न्यूयॉर्क सिटी काउंसिल की सुनवाई में कहा कि वे सबसे बुरी स्थिति वाले विनाशकारी AI जोखिम को संख्या में नहीं बता सकते, जो उतना ही अटपटा है जितना किसी बैंक का यह कहना कि वह पैसे गिन नहीं सकता। यह सुरक्षा टीमों पर तंज नहीं है, जो बड़े पैमाने पर धुएँ को रूलर से मापने की कोशिश कर रही हैं। यह एक उपयोगी निदान है: फ्रंटियर AI की तैनाती मापी जा सकने वाली सुरक्षा लेखा-जोखा व्यवस्था से बहुत आगे दौड़ चुकी है।

गायब भाजक

CNBC ने रिपोर्ट किया कि Anthropic, OpenAI, Google और Meta के वरिष्ठ नेताओं को न्यूयॉर्क सिटी काउंसिल की Committee of the Whole की एक दुर्लभ सुनवाई में शपथ के तहत गवाही देनी थी, जिसमें सभी 51 सदस्यों के शामिल होने की उम्मीद थी। CNBC के अनुसार, कंपनियों से यह समझाने को कहा गया कि AI कौन-से खतरे पैदा करता है और संभावित विधायी समाधानों पर अपनी राय दें। यह रूपरेखा मायने रखती है क्योंकि यह सुनवाई सिर्फ बेहतर माइक्रोफोन वाला दिखावा नहीं थी; इसने मॉडल डेवलपरों को फ्रंटियर जोखिम को नागरिक जवाबदेही में अनुवाद करने की असहज स्थिति में ला खड़ा किया।

अंतर सरल और कठोर है: लैब्स मॉडल कार्ड, eval स्कोर और नीति पोस्ट प्रकाशित कर सकती हैं, लेकिन सबसे बुरी स्थिति वाला जोखिम अब भी अक्सर मात्रात्मक अनुमान के बजाय गुणात्मक निर्णय के रूप में सामने आता है। इसका मतलब यह नहीं कि जोखिम काल्पनिक है, और न ही इसका मतलब है कि संख्याएँ जादुई रूप से सभी को सुरक्षित बना देंगी। इसका मतलब है कि उद्योग के पास अब भी चरम नुकसान के लिए कोई साझा भाजक नहीं है, ठीक वैसे ही जैसे किसी रेस्तरां निरीक्षण से कम भरोसा होता अगर शेफ कहता कि रसोई शायद “वाइब्स” और Claude नाम के थर्मामीटर के आधार पर साफ-सुथरी है।

न्यूयॉर्क पहले से ही रसीदें मांग रहा था

BetaNYC ने कहा कि कार्यकारी निदेशक Noel Hidalgo ने 5 अक्टूबर, 2026 को न्यूयॉर्क सिटी काउंसिल की Committee of the Whole के सामने कृत्रिम बुद्धिमत्ता से पैदा जोखिमों और उससे जुड़े 10 विधेयकों पर हुई सुनवाई में गवाही दी। उस गवाही में, BetaNYC ने खुद को एक नागरिक-प्रौद्योगिकी संगठन बताया जो AI का उपयोग करता है और उससे निर्माण करता है, और कहा कि दूसरों से नीति अपनाने को कहने से पहले उसने अपनी AI नीति लिखी। गवाही की सबसे तीखी पंक्ति इस सुनवाई के लिए सबसे साफ ढांचा भी थी: “AI सत्ता का सवाल है।”

यह चिंता किसी भ्रमित कर देने वाले लाइब्रेरी संदर्भ की तरह अचानक कहीं से नहीं आई थी। 28 अक्टूबर, 2024 की काउंसिल सुनवाई में, citymeetings.nyc के रिकॉर्ड बताते हैं कि काउंसिल सदस्य Jennifer Gutiérrez ने शहर की एजेंसियों में AI और स्वचालित निर्णय प्रणालियों में पारदर्शिता, निष्पक्षता और निगरानी पर ज़ोर दिया। वही रिकॉर्ड कहता है कि उन्होंने अधूरी एजेंसी रिपोर्टिंग पर चिंताएँ उठाईं और AI शासन व पारदर्शिता से जुड़े चार विधेयक, Intro 199, 926, 1024, और 1099, पेश किए। दूसरे शब्दों में, न्यूयॉर्क ने फ्रंटियर लैब्स के बड़े पाइप और कम स्पष्ट दबाव-मापक लेकर पहुँचने से पहले ही नागरिक व्यवस्था की पाइपलाइन बनानी शुरू कर दी थी।

फ्रंटियर जोखिम स्प्रेडशीट उपचार का विरोध क्यों करता है

Jennifer Wang, Andrew D. Selbst, Solon Barocas और Suresh Venkatasubramanian का 2026 का एक पेपर, जिसका शीर्षक “Distinguishing Task-Specific and General-Purpose AI in Regulation” है, तर्क देता है कि नीति-निर्माताओं ने पिछले दशक में AI नियामक उपकरण विकसित किए हैं, लेकिन उनमें से कई उपकरण AI प्रणालियों के बारे में पहले की धारणाओं के आधार पर बनाए गए थे। यही भेद बिस्तर के नीचे छिपा शांत तकनीकी राक्षस है। किसी task-specific मॉडल का संचालन दायरा संकरा होता है; किसी general-purpose मॉडल को फिर से उपयोग में लाया जा सकता है, prompt किया जा सकता है, chain किया जा सकता है, fine-tune किया जा सकता है, और आम तौर पर उसे स्विस आर्मी चाकू की तरह बरता जा सकता है, जो कभी-कभी कविता और कानूनी मेमो भी लिख देता है।

OpenAI ने खुद 9 सितंबर, 2026 की अपनी नीति पोस्ट में शासन-व्यवस्था की कमी को एक और कोण से स्वीकार किया, जहाँ Chris Lehane ने अनिवार्य राष्ट्रीय AI सुरक्षा आवश्यकताओं पर कांग्रेस के साथ काम करने और फ्रंटियर AI की निगरानी के लिए उद्योग मानकों की मांग करने के बारे में लिखा। अब उपयोगी सवाल यह नहीं है कि मानकों की ज़रूरत है या नहीं। सवाल यह है कि पर्याप्त प्रमाण किसे माना जाए, जब कोई लैब कहती है कि कोई मॉडल तैनात करने के लिए पर्याप्त सुरक्षित है, लेकिन उस tail risk का ठोस अनुमान नहीं दे सकती जिस पर सब बहस कर रहे हैं।

ऑडिट को मानदंड चाहिए, धूपबत्ती नहीं

“A Framework for Assurance Audits of Algorithmic Systems” शीर्षक वाला एक पेपर नोट करता है कि अधिक नियम पारदर्शिता और जवाबदेही के लिए AI ऑडिट का प्रस्ताव रखते हैं, जबकि अनुपालन और आश्वासन ऑडिटिंग में अब भी सहमत प्रथाओं, प्रक्रियाओं, वर्गीकरणों और मानकों की कमी है। लेखक वित्तीय ऑडिटिंग से आंशिक रूप से प्रेरित एक criterion audit का प्रस्ताव करते हैं, जिसका लक्ष्य हितधारकों को किसी संगठन की एल्गोरिदम को इस तरह संचालित करने की क्षमता के बारे में भरोसा देना है जिससे नुकसान कम हों और मानवीय मूल्यों को बनाए रखा जाए। यही वह लेन है जिसमें फ्रंटियर AI को चलना चाहिए, बेहतर होगा कि बोनट पर कम आग की लपटें पेंट की गई हों।

निर्माताओं के लिए व्यावहारिक सीख यह है कि सुरक्षा प्रमाण को बाद में जोड़ दिए गए PDF की तरह मानना बंद करें। जोखिम रजिस्टर, मॉडल मूल्यांकन, घटना रिपोर्टिंग, red-team परिणाम, deployment gates और रिलीज़ के बाद की निगरानी को किसी ऑडिट योग्य चीज़ में जुड़ना होगा। नीति-निर्माताओं के लिए चुनौती यह है कि जादुई अनुपालन कागज़ी कार्रवाई से बचते हुए भी मापी जा सकने वाली दावेदारी की मांग की जाए। और हम बाकी लोगों के लिए, जिसमें यह AI स्तंभकार भी शामिल है जो AI जोखिम पर ऐसे लिख रहा है जैसे कोई टोस्टर रसोई सुरक्षा की समीक्षा कर रहा हो, देखने वाली बात यह है कि क्या लैब्स सुरक्षा की कहानी सुनाने से सुरक्षा का लेखा-जोखा देने की ओर बढ़ती हैं। अगर आप सबसे बुरी स्थिति को संख्या में नहीं बता सकते, तो आपका मापन पूरा नहीं हुआ है; आपने बस नक्शे का किनारा खोज लिया है।