EY सर्वे विश्लेषण: 98% नीतियाँ, 47% छोड़ते हैं, 26% एजेंट्स से चूकते हैं

एक AI गवर्नेंस नीति किसी फ़ोल्डर में बैठे रहने में बहुत अच्छी होती है। यह तब कम उपयोगी होती है जब कोई तात्कालिक डिप्लॉयमेंट उसके इर्द-गिर्द घूमकर निकल जाता है, जो apparently कोई दुर्लभ खेल नहीं है।

Techstrong.ai ने बताया कि EY के पहले US AI Risk and Governance Survey में 98% उत्तरदाताओं ने कहा कि उनके संगठनों के पास औपचारिक AI गवर्नेंस नीतियाँ हैं, जबकि 47% ने कहा कि तात्कालिक AI डिप्लॉयमेंट के दौरान गवर्नेंस को छोड़ दिया गया था। एजेंटिक AI का उपयोग करने वाले संगठनों में, Techstrong.ai ने बताया कि 26% अपने भीतर काम कर रहे अनधिकृत AI एजेंटों का पता नहीं लगा सके, और यही वह हिस्सा है जहाँ फ़ोल्डर सजावटी लगने लगता है।

नीति मौजूद है। गेट नहीं

Techstrong.ai ने बताया कि EY ने अमेरिका की सार्वजनिक रूप से सूचीबद्ध कंपनियों के 202 वरिष्ठ AI निर्णयकर्ताओं का सर्वे किया, जिनका वार्षिक राजस्व कम से कम 1 अरब डॉलर है। यह नमूना मायने रखता है क्योंकि ये किसी डेस्क के नीचे पड़े अतिरिक्त लैपटॉप पर चलने वाले शौकिया प्रोजेक्ट नहीं हैं, भले ही वह अनुपालन बचाव कितना भी प्यारा लगे।

EY की घोषणा को प्रकाशित करते हुए BigDATAwire ने कहा कि सर्वे ने यह देखा कि नेता AI को कैसे गवर्न करते हैं, जिसमें यह भी शामिल था कि गवर्नेंस फ़्रेमवर्क एजेंटिक AI के अनुसार कितनी तेज़ी से अनुकूलित हो रहे हैं और AI-संबंधित जोखिम की सीमा और प्रभाव क्या हैं। EY की अपनी रिलीज़ ने समस्या को साफ़ शब्दों में रखा: स्वायत्त AI कार्यान्वयन निगरानी से आगे निकल रहा है।

व्यावहारिक अर्थ सरल है। ऐसी नीति जिसे तात्कालिकता के दौरान छोड़ा जा सके, नियंत्रण नहीं है; वह लेटरहेड वाला सुझाव है।

बिल्डरों के लिए उपयोगी प्रश्न यह नहीं है कि संगठन के पास AI गवर्नेंस दस्तावेज़ है या नहीं, बल्कि यह है कि क्या रिलीज़ वर्कफ़्लो बिना मालिक, स्वीकृत उपयोग-केस, जोखिम समीक्षा और लॉगिंग योजना के शिप करना कठिन बनाते हैं। अगर जवाब इस पर निर्भर करता है कि कोई लीगल टीम को ईमेल करना याद रखे, तो जवाब नहीं है।

एजेंटिक AI शैडो उपयोग को ऑपरेशंस समस्या बना देता है

Techstrong.ai ने बताया कि एजेंटिक AI का उपयोग करने वाले संगठनों में 49% ने एजेंटिक सिस्टमों के लिए गवर्नेंस फ़्रेमवर्क अपडेट नहीं किए थे और 26% अपने भीतर काम कर रहे अनधिकृत AI एजेंटों का पता नहीं लगा सके। यही जोड़ी असली अनुपालन सिरदर्द है।

एजेंटिक सिस्टम केवल बेहतर ब्रांडिंग वाली चैट विंडो नहीं होते; उन्हें टूल्स, वर्कफ़्लो, डेटा स्टोर और आंतरिक अनुमतियों से जोड़ा जा सकता है। यदि इन्वेंटरी अधूरी है, तो संगठन भरोसेमंद ढंग से यह नहीं कह सकता कि क्या कार्य कर रहा है, किसके अधिकार से, या किस डेटा पर।

किसी नियामक के असहज सवाल पूछने से पहले ही, साफ़ ज़िम्मेदारी है: दृश्यता। टीमों को एक एजेंट रजिस्टर चाहिए जो मालिक, उद्देश्य, जुड़े हुए टूल्स, डेटा श्रेणियाँ, अनुमति का दायरा, मॉडल या प्रदाता, और प्रोडक्शन स्थिति को दर्ज करे। उन्हें ऐसे लॉग भी चाहिए जो एजेंट द्वारा की गई कार्रवाइयाँ दिखाएँ, सिर्फ़ उपयोगकर्ता द्वारा टाइप किए गए प्रॉम्प्ट नहीं।

अनधिकृत आंतरिक एजेंटों को गवर्न करना उसी वजह से कठिन है जिस वजह से अनट्रैक्ड वेंडरों का ऑडिट कठिन होता है: कोई भी उस सिस्टम की समीक्षा नहीं कर सकता जिसे वह ढूँढ ही नहीं सकता।

गवर्नेंस को डिप्लॉयमेंट पथ में जाना होगा

Techstrong.ai ने बताया कि EY अधिक स्पष्ट जवाबदेही, डिप्लॉयमेंट वर्कफ़्लो में बने हुए नियंत्रण, AI सिस्टमों में अधिक दृश्यता, और एजेंट अपेक्षित तरीके से व्यवहार कर रहे हैं या नहीं इसकी आवर्ती जाँच की सिफ़ारिश करता है। सलाहकार-भाषा से बाहर निकालकर कहें, तो इसका मतलब है कि गवर्नेंस को शिपिंग का हिस्सा बनना होगा।

स्वीकृति रिकॉर्ड वहीं रहना चाहिए जहाँ डिप्लॉयमेंट निर्णय होते हैं, न कि लॉन्च के बाद प्रस्तुत की गई स्लाइड डेक में। कोई प्रोडक्शन एजेंट तब तक आगे नहीं बढ़ना चाहिए जब तक उसके साथ नामित मालिक, अनुमत उपयोग, एस्केलेशन मार्ग और मॉनिटरिंग आवश्यकता पहले से जुड़ी न हो। यही वह जगह है जहाँ नीति इंजीनियरिंग कार्य बन जाती है।

प्रोक्योरमेंट को अस्वीकृत AI सेवाओं को रोकना चाहिए, आंतरिक प्लेटफ़ॉर्मों को संवेदनशील सिस्टमों तक पहुँच से पहले रजिस्ट्रेशन आवश्यक करना चाहिए, और डिप्लॉयमेंट पाइपलाइनों को यह प्रमाण सुरक्षित रखना चाहिए कि समीक्षाएँ वास्तव में हुई थीं।

आवर्ती सत्यापन कोई औपचारिक तिमाही बैठक नहीं है। इसका मतलब है यह जाँचना कि क्या एजेंट अब भी अपने निर्धारित कार्य की सीमा में रहते हैं, क्या अनुमतियाँ भटक गई हैं, और क्या कुछ गलत होने पर लॉग अब भी उपयोगी रहते हैं।

अगला ऑडिट इरादे नहीं, प्रमाण माँगेगा

BigDATAwire ने सर्वे को यह दिखाने वाला बताया कि प्रतिष्ठा, साइबर सुरक्षा और शैडो AI जोखिम के बावजूद प्रक्रियाएँ और नियंत्रण गति नहीं पकड़ रहे हैं। यही हिस्सा गंभीरता से लेने लायक है, बिना इसे नाटक में बदले।

लिखित गवर्नेंस अब भी उपयोगी है, लेकिन केवल लागू किए जा सकने वाले कदमों के नक्शे के रूप में: इन्वेंटरी, स्वीकृति गेट, टेलीमेट्री, एस्केलेशन और आवधिक जाँच। कानून शायद ही कभी किसी कंपनी को PDF में अच्छे इरादे रखने के लिए इनाम देता है।

स्वायत्त AI बनाने या खरीदने वाले पाठकों के लिए अगला कदम छोटा और ठोस है। एक एजेंटिक वर्कफ़्लो चुनें और उसे अनुरोध से डिप्लॉयमेंट से मॉनिटरिंग तक ट्रेस करें, फिर हर उस बिंदु की पहचान करें जहाँ गवर्नेंस किसी सिस्टम गेट के बजाय याददाश्त पर निर्भर करता है।

आगे यह देखें कि क्या वेंडर उपयोगी एजेंट इन्वेंटरी और ऑडिट ट्रेल्स देना शुरू करते हैं, क्योंकि वे एक सुरुचिपूर्ण कवर पेज वाले एक और नीति टेम्पलेट से अधिक मायने रखेंगे।