AI सुरक्षा उपाय आंतरिक मॉडल व्यवहार को छिपा सकते हैं

सार्वजनिक रूप से एक चैटबॉट ब्लेज़र पहने हुए है। वही मॉडल किसी आंतरिक लैब में नाइट विज़न गॉगल्स पहने हो सकता है और पूछ रहा हो सकता है कि लॉकपिक्स कहाँ रखे हैं। AI लैब सुरक्षा चिंताओं पर Fortune की रिपोर्टिंग से यही असहज, लेकिन उपयोगी सीख मिलती है: सुरक्षा परतें लागू होने के बाद उपयोगकर्ताओं को जो व्यवहार दिखता है, वह हमें इस बारे में पर्याप्त जानकारी नहीं दे सकता कि वे परतें हटाए जाने पर अंदरूनी सिस्टम क्या कर सकता है। यह कोई मॉन्स्टर मूवी नहीं है। यह मापने की समस्या है, जो किसी तरह इंजीनियरों के लिए और भी डरावनी है, क्योंकि अब किसी को स्प्रेडशीट बनानी पड़ेगी।

सार्वजनिक डेमो पूरा मॉडल नहीं है

Fortune की रिपोर्ट, जो “AI lab's safety systems are falling behind” शीर्षक से प्रकाशित हुई, उस अंतर पर दबाव डालती है जिसे AI बनाने वाले कभी-कभी सार्वजनिक रूप से धुंधला कर देते हैं: मॉडल की क्षमता, डिप्लॉयमेंट व्यवहार के समान नहीं होती। Apollo Research का पेपर “AI Behind Closed Doors” इसी संरचनात्मक बात को दूसरे कोण से रखता है। यह तर्क देता है कि उन्नत AI सिस्टम पहले उन कंपनियों के अंदर डिप्लॉय किए जाएंगे जो उन्हें बना रही हैं, और आंतरिक डिप्लॉयमेंट का गवर्नेंस “अनुपस्थित प्रतीत होता है।” इसका मतलब है कि शक्तिशाली सिस्टम के पहले वास्तविक उपयोगकर्ता आम जनता नहीं, बल्कि कर्मचारी, शोधकर्ता, मूल्यांकनकर्ता और ऑटोमेशन पाइपलाइन हो सकते हैं—न कि वे लोग जो किसी वेब ऐप में विनम्र प्रॉम्प्ट ऐसे टाइप कर रहे हैं मानो वह ऑटोकंप्लीट वाला कन्फेशन बूथ हो।

The Weekly Investor ने अलग से रिपोर्ट किया कि Google, Microsoft और xAI ने U.S. Commerce Department के Center for AI Standards and Innovation को अप्रकाशित AI मॉडलों तक शुरुआती पहुँच देने पर सहमति दी, और इस तरह वे OpenAI और Anthropic के साथ जुड़ गए। उस रिपोर्ट के अनुसार, Washington अप्रकाशित सिस्टमों को साइबर सुरक्षा कमजोरियों, जैव-सुरक्षा जोखिमों, इंफ्रास्ट्रक्चर खतरों और सुरक्षा गार्डरेल्स को बायपास करने की क्षमता के लिए टेस्ट कर रहा है। इन बातों को साथ रखें तो तस्वीर सरल है: एक मॉडल जैसा प्रशिक्षित किया गया है, एक मॉडल जैसा अंदर इस्तेमाल होता है, एक मॉडल जैसा स्ट्रेस टेस्ट किया जाता है, और एक मॉडल जैसा रिलीज़ किया जाता है। इन सबको एक ही चीज़ मानना वैसा है जैसे किसी रेस्तरां का मूल्यांकन बाहर निकलते समय मिली पुदीने की गोली से करना।

@title मॉडल व्यवहार कहाँ बँटता है
@source AI Behind Closed Doors
@source AI Labs Submit Models for Government Safety Testing

  Frontier model
     │
     ▼
  Internal deployment
     │
     ▼
  Government review
     │
     ▼
  Public release

@caption आंतरिक उपयोग और समीक्षा ऐसा व्यवहार उजागर कर सकते हैं जो सार्वजनिक रिलीज़ में दिखाई नहीं देता।

चित्र जानबूझकर उबाऊ है, क्योंकि उबाऊ हिस्सा ही महत्वपूर्ण हिस्सा है। अगर बेस सिस्टम कोई जोखिमपूर्ण काम कर सकता है लेकिन सार्वजनिक प्रोडक्ट मना कर देता है, तो सुरक्षा का दावा इस पर निर्भर करता है कि आप किस परत को माप रहे हैं। प्रोडक्शन में मना करना उपयोगी है, लेकिन यह प्रमाण नहीं है कि क्षमता गायब हो गई। यह प्रमाण है कि उस संदर्भ में प्रोडक्ट ने ना कहा। बधाई हो, velvet rope कम से कम एक बार तो काम कर गई।

गार्डरेल्स इंजीनियरिंग हैं, जादुई धूल नहीं

“The U.S. Government Tests Frontier AI models with the Safety Guards Turned Off” शीर्षक वाली एक Medium विश्लेषण वह वाक्यांश पकड़ती है जिस पर हर कोई बहस करना चाहता है, लेकिन इंजीनियरिंग सवाल इससे कम नाटकीय है। जब मूल्यांकनकर्ता डिप्लॉयमेंट सुरक्षा उपायों को हटाते या बायपास करते हैं, तो वे ज़रूरी नहीं कि सिस्टम को “बुरा” बना रहे हों। वे यह अलग करके समझने की कोशिश कर रहे होते हैं कि आसपास के प्रोडक्ट हार्नेस, फ़िल्टर, नीतियों, क्लासिफ़ायरों और refusal tuning के बिना मॉडल क्या कर सकता है। यह सामान्य टेस्ट बेंच सोच है, बस फर्क इतना है कि टेस्ट बेंच एक ऐसा एजेंट हो सकता है जो कोड लिखता है, टूल्स को श्रृंखला में जोड़ता है, और आपकी incident response टीम में चेहरे की ऐंठन विकसित करा देता है।

Yoshua Bengio के नेतृत्व में और 100 से अधिक AI विशेषज्ञों द्वारा लिखी गई International AI Safety Report 2026, general purpose AI जोखिम को एक वैज्ञानिक और नीतिगत समस्या के रूप में प्रस्तुत करती है, जो इतनी व्यापक है कि 30 से अधिक देशों और अंतरराष्ट्रीय संगठनों से समर्थन प्राप्त कर सके। यह मायने रखता है, क्योंकि सुरक्षा को vibes, screenshots या benchmark victory laps तक सीमित नहीं किया जा सकता। सही सवाल यह नहीं है कि “क्या चैटबॉट ने सार्वजनिक रूप से किसी खराब प्रॉम्प्ट को मना किया?” सही सवाल है: “पूरे lifecycle में क्या होता है, जिसमें internal deployment, pre release evaluation, और वे जगहें शामिल हैं जहाँ testing के लिए safeguards जानबूझकर अनुपस्थित रखे जाते हैं?”

सरकारी परीक्षण रिलीज़ पाइपलाइन का हिस्सा बन रहा है

The Weekly Investor ने रिपोर्ट किया कि बड़े frontier labs अब U.S. Commerce Department के Center for AI Standards and Innovation के माध्यम से किसी न किसी प्रकार की सरकारी pre release review में भाग ले रहे हैं। यह प्रक्रिया में एक महत्वपूर्ण बदलाव है, भले ही उद्धृत रिपोर्टिंग में यह अभी भी स्वैच्छिक हो। यह एक बाहरी मंच बनाता है जहाँ अप्रकाशित सिस्टमों का मूल्यांकन सार्वजनिक संस्करण को उसका smiley face, liability disclaimers और product manager द्वारा स्वीकृत refusal style मिलने से पहले किया जा सकता है।

OpenAI की 4 अगस्त, 2026 की third party cyber evaluations पर पोस्ट भी एक परिपक्व होती evaluation ecosystem की ओर संकेत करती है। OpenAI ने पोस्ट को “Strengthening third party model evaluation environments” के इर्द-गिर्द रखा, जिसमें UK AISI और Irregular का उल्लेख करने वाले सेक्शन शामिल थे। ध्यान देने योग्य बात यह नहीं है कि एक लैब ने safety post लिखी, क्योंकि labs safety posts वैसे लिखती हैं जैसे sourdough लोग hydration ratios पर चर्चा करते हैं। ध्यान देने योग्य बात यह है कि evaluation environments खुद अब safety surface का हिस्सा बन गए हैं।

बिल्डरों को इससे क्या सीखना चाहिए

Apollo Research का “AI Behind Closed Doors” तर्क देता है कि internal deployment लाभों और जोखिमों दोनों का एक मुख्य स्रोत है, और practical governance की शुरुआत यहीं से होनी चाहिए। बिल्डरों के लिए तुरंत कदम यह है कि वे दस्तावेज़ करें कि कौन सा व्यवहार base model से आता है, कौन सा fine tuning से, कौन सा runtime guardrails से, और कौन सा tool access पर निर्भर करता है। अगर आप यह नहीं बता सकते कि safety property कहाँ रहती है, तो आपके पास safety property नहीं है। आपके पास एक haunted YAML file है।

International AI Safety Report 2026 दिखाती है कि यह अब सिर्फ lab culture का मुद्दा नहीं रह गया है। यह developers, evaluators, governments और customers के बीच coordination problem है, जिन्हें यह जानना है कि वे वास्तव में क्या खरीद रहे हैं या deploy कर रहे हैं। Public behavior अब भी बहुत मायने रखता है, लेकिन इसे पूरी सच्चाई नहीं, बल्कि measurement की एक layer माना जाना चाहिए। ध्यान रखें कि क्या voluntary pre release reviews अपेक्षित due diligence बनती हैं, और क्या labs capability evaluations और product behavior के बीच अधिक स्पष्ट अंतर प्रकाशित करती हैं। मॉडल इसलिए सुरक्षित नहीं हो गया कि demo ने आपको मुस्कुराकर देखा। उसने बस यह सीख लिया कि वह किस कमरे में है।