एआई अनुमोदन बाधाएँ: सरल समीक्षा विश्लेषण

सरकार में AI का सबसे कम आकर्षक जोखिम कोई बेकाबू चैटबॉट नहीं है। यह वह साझा इनबॉक्स है जहाँ एक पायलट प्रोजेक्ट गोपनीयता, सुरक्षा, खरीद, कानूनी, रिकॉर्ड्स, एक्सेसिबिलिटी, और उस समिति का इंतज़ार करता है जो बजट विंडो बंद होने के बाद मिलती है। निगरानी मायने रखती है, लेकिन एक के बाद एक चलती अनिश्चितता निगरानी नहीं है। यह नीति का बैज पहने हुई देरी है। उपयोगी सवाल यह नहीं है कि सार्वजनिक एजेंसियों को AI का शासन करना चाहिए या नहीं। उन्हें करना चाहिए, और निवासियों को खरीद संबंधी आशावाद से अधिक की अपेक्षा करने का अधिकार है। सवाल यह है कि क्या अनुमोदन का रास्ता किसी टीम को बताता है कि कौन-सा प्रमाण तैयार करना है, कौन निर्णय लेता है, और लॉन्च के बाद क्या होता है। अगर जवाब नहीं है, तो एजेंसी ने AI को अधिक सुरक्षित नहीं बनाया है। उसने कतार को बस अधिक आधिकारिक बना दिया है।

कतार अब नियंत्रण का हिस्सा है

WaTech और UC Berkeley जिम्मेदार सार्वजनिक क्षेत्र AI को चरणबद्ध लक्ष्यों वाली कार्यान्वयन समस्या के रूप में पेश करते हैं, न कि मूल्यों के पोस्टर के रूप में। उनकी रिपोर्ट अल्पकालिक लक्ष्यों को 6 महीनों पर, मध्यम अवधि के लक्ष्यों को 1 से 2 वर्षों पर, और दीर्घकालिक दृष्टि को 2 वर्ष या उससे अधिक पर रखती है। यह क्रम उपयोगी है क्योंकि यह शासन को ऐसी चीज़ मानता है जिसे एजेंसियाँ बनाती, परखती और बनाए रखती हैं। कोई नीति जिसे रूट, स्टाफ या ऑडिट नहीं किया जा सकता, नियंत्रण नहीं है। वह आकांक्षाओं वाला एक PDF है।

World Bank सेवा वितरण का कारण स्पष्ट करता है। उसका सारांश नोट कहता है कि AI, मानव प्रबंधन और निर्णय-निर्माण के साथ उपयोग किए जाने पर, व्यक्तिगत सेवाओं, बैक-एंड दक्षता, नीति अनुपालन, और धोखाधड़ी की पहचान में मदद कर सकता है। एजेंसियों के लिए इसका मतलब: समीक्षा को निवासियों की रक्षा करनी होती है, लेकिन उसे सरकार के उस हिस्से तक भी पहुँचना होता है जहाँ फॉर्म प्रोसेस होते हैं, लाभों की जाँच होती है, और धोखाधड़ी संकेतों की समीक्षा पदनाम वाले लोग करते हैं। यदि हर कम-जोखिम वाले आंतरिक सहायक को भी वही रास्ता अपनाना पड़े जो किसी पात्रता प्रणाली को अपनाना पड़ता है, तो जोखिम वर्गीकरण चुपचाप विफल हो चुका है।

सरलीकरण एक दायित्व मानचित्र है, शॉर्टकट नहीं

World Bank सार्वजनिक क्षेत्र में AI उपयोग को COVID 19 के दौरान वित्तीय दबाव और नागरिकों तथा सिविल सेवकों की आवाजाही पर सीमाओं से भी जोड़ता है। यह याद दिलाता है कि सरकारी AI अपनाने को आम तौर पर सेवा निरंतरता और लागत दबाव की भाषा में उचित ठहराया जाता है, न कि अमूर्त प्रयोग के रूप में। अनुमोदन को सरल बनाने का मतलब गोपनीयता समीक्षा या सुरक्षा समीक्षा हटाना नहीं है। इसका मतलब है एक ही इनटेक में, एक बार पूछना कि सिस्टम क्या करता है, वह कौन-सा डेटा उपयोग करता है, वह किनकी सेवाओं या अधिकारों को प्रभावित कर सकता है, कौन उसे ओवरराइड कर सकता है, और प्रदर्शन की निगरानी कैसे की जाएगी।

European Commission EU सार्वजनिक क्षेत्र में AI अपनाने को नागरिकों की बेहतर सेवा करने और स्टार्टअप्स को समर्थन देने का अवसर बताता है। यह अवसर जल्दी ही ढह जाता है अगर किसी छोटे विक्रेता को एक एजेंसी के लिए वही डेटा, ऑडिट, और मानव निगरानी से जुड़े सवाल चार अलग-अलग फ़ॉर्मैट में देने पड़ें। यहाँ लेख संख्या समस्या नहीं है। समस्या यह है कि हर कार्यालय को वही तथ्य फिर से खोजने पड़ते हैं क्योंकि साझा प्रमाण फ़ाइल का मालिक कोई नहीं है।

कानूनी न्यूनतम स्तर में अभी भी दम है

Center for Security and Emerging Technology ने European Commission के प्रस्ताव का सार यह बताया कि वह कुछ उच्च-जोखिम वाले व्यावसायिक AI अनुप्रयोगों पर सख्त नियंत्रण लगाता है और कुछ को पूरी तरह प्रतिबंधित करता है। प्रतिबंधित AI के उसके उदाहरणों में सोशल स्कोरिंग, अवचेतन हेरफेर, और कानून प्रवर्तन द्वारा रियल-टाइम बायोमेट्रिक निगरानी शामिल थे, कुछ अपवादों के साथ। उच्च जोखिम माने गए सिस्टमों के लिए, CSET ने तैनाती से पहले विस्तृत निरीक्षण, उपयोगकर्ताओं के लिए स्पष्ट और पारदर्शी जानकारी, मानव निगरानी, और सुव्यवस्थित तथा पक्षपात-रहित डेटा पर ध्यान का वर्णन किया। उसने वैश्विक बिक्री के 6 प्रतिशत तक के प्रस्तावित जुर्मानों का भी उल्लेख किया।

यही वह हिस्सा है जिसे LinkedIn आम तौर पर या तो घबराहट या अनुपालन-नाटक में बदल देता है। CSET ने जिस प्रस्ताव का वर्णन किया, उसका मतलब यह नहीं है कि हर चैटबॉट को बारह पड़ावों वाली यात्रा करनी होगी। इसका मतलब है कि परिणाम मायने रखते हैं। यदि कोई AI सिस्टम लाभों, सार्वजनिक सेवाओं, या प्रवर्तन तक पहुँच को प्रभावित करता है, तो एजेंसी को अधिक मजबूत प्रमाण, नामित जवाबदेही, और निगरानी योजना की अपेक्षा करनी चाहिए। यदि वह कर्मचारियों के लिए मीटिंग नोट्स का सार बनाता है, तो समीक्षा में फिर भी डेटा हैंडलिंग और रिकॉर्ड्स संबंधी दायित्व शामिल होने चाहिए, लेकिन यह दिखावा नहीं करना चाहिए कि जोखिम प्रोफ़ाइल समान है।

एजेंसियों और निर्माताओं को आगे क्या बदलना चाहिए

WaTech और UC Berkeley एजेंसियों को अधिक उपयोगी दृष्टिकोण देते हैं: जिम्मेदार AI को निकट अवधि और लंबी अवधि के काम वाले रोडमैप के रूप में देखें। व्यवहार में, इसका मतलब है एक AI इनटेक फ़ॉर्म, जोखिम-स्तरीकरण नियम, साझा प्रमाण पैक, और एक समन्वित निर्णय रिकॉर्ड। गोपनीयता कार्यालय को किसी टूल के बारे में खरीद के बाद पता नहीं चलना चाहिए। सुरक्षा टीम को आर्किटेक्चर विवरण तब नहीं माँगने चाहिए जब पायलट पहले ही संवेदनशील डेटा संभाल चुका हो।

निर्माताओं के लिए भी सीख उतनी ही स्पष्ट है। नारा नहीं, तैनाती मेमो लेकर आएँ। एजेंसी द्वारा उन्हें तीन अलग-अलग पोर्टलों में माँगने से पहले ही डेटा स्रोत, प्रतिधारण, मानव समीक्षा, विफलता की स्थितियाँ, उपयोगकर्ता सूचना, लॉगिंग, और एस्केलेशन समझाएँ। सार्वजनिक क्षेत्र AI इसलिए तेज़ी से आगे नहीं बढ़ेगा कि शासन नरम हो गया। वह तब तेज़ी से आगे बढ़ेगा जब वही प्रमाण सही समीक्षकों को सही क्रम में संतुष्ट कर सके।

अगली देखने लायक बात यह है कि क्या एजेंसियाँ AI सिद्धांतों को संचालन प्रक्रिया में बदलती हैं। अच्छा संकेत है जोखिम-आधारित रूटिंग और लॉन्च के बाद निगरानी वाला एक स्पष्ट इनटेक रास्ता। बुरा संकेत है एक नई AI समिति जो खरीद, डेटा एक्सेस, और सुरक्षा समीक्षा को बिल्कुल वहीं छोड़ देती है जहाँ वे पहले थे। निर्माता सख्त नियमों के साथ काम कर सकते हैं। उन्हें उन नियमों के साथ अधिक कठिनाई होती है जो बैठक शुरू होने के बाद ही अस्तित्व में आते हैं।