AI पूर्वाग्रह सुरक्षा उपाय FTC कानून का जोखिम पैदा कर सकते हैं: विश्लेषण

अनुपालन से जुड़ा असहज सवाल अब केवल यह नहीं है कि कोई AI सिस्टम पक्षपाती है या नहीं। सवाल यह है कि पक्षपात का समाधान बताकर बेचा गया फ़िल्टर, प्रॉम्प्ट नियम, सुरक्षा परत, या निष्पक्षता सेटिंग कहीं अपनी ही उपभोक्ता संरक्षण समस्या तो नहीं बना रही। यह सामान्य निष्पक्षता प्रस्तुति से कहीं ज़्यादा ठंडी सच्चाई है, और शायद अधिक उपयोगी भी। Reuters की रिपोर्ट के अनुसार, Federal Trade Commission ने कहा कि जिन AI कंपनियों के चैटबॉट ऐसे जवाब देते हैं जो "वैचारिक उद्देश्यों" को दर्शाते हैं, वे संघीय कानून का उल्लंघन कर सकती हैं। यह बात इस प्रस्तावित नीति का हिस्सा है कि एजेंसी इस क्षेत्र पर अपने अधिकार का उपयोग कैसे करेगी। Forth, जिसने FTC से जुड़ी एक और जानकारी भी सामने लाई, एजेंसी की कार्रवाई को AI सटीकता पर नीति वक्तव्य के लिए सार्वजनिक टिप्पणी के अनुरोध के रूप में पहचानता है। सरल शब्दों में: जोखिम कम करने वाला फीचर कोई सद्गुण का बैज नहीं है। यह एक उत्पाद दावा है, और उत्पाद दावों के लिए प्रमाण चाहिए।

प्रस्ताव सुरक्षा उपायों को दावों में बदल देता है

Reuters के अनुसार, चेतावनी AI कंपनियों और चैटबॉट्स से जुड़ी है, न कि इस अमूर्त बहस से कि सेमिनार रूम में मॉडल तटस्थ होने चाहिए या नहीं। उपभोक्ता कानून से जुड़ा आधार व्यावहारिक है: यदि चैटबॉट के जवाब "वैचारिक उद्देश्यों" को दर्शाते हैं, तो FTC कहता है कि प्रस्तावित नीति के तहत यह संघीय कानून के विपरीत जा सकता है। इससे निर्माताओं के लिए जोखिम एक असहज जगह पर आ जाता है, क्योंकि जिस व्यवहार पर सवाल उठ रहा है, वह उसी परत से आ सकता है जिसका उद्देश्य सिस्टम को सुरक्षित या कम पक्षपाती बनाना था।

Forth का सारांश महत्वपूर्ण है क्योंकि वह FTC के इस कदम को AI सटीकता पर नीति वक्तव्य और सार्वजनिक टिप्पणी के अनुरोध के रूप में प्रस्तुत करता है। इसका मतलब है कि अभी की स्थिति प्रस्तावित नीति की है, उपलब्ध सारांशों में बताई गई किसी अंतिम नियमावली या घोषित प्रवर्तन तारीख की नहीं। फिर भी, प्रस्तावित नीति प्रवर्तन अपेक्षाओं, विक्रेता प्रश्नावलियों, और उन स्क्रिप्टों को प्रभावित कर सकती है जिनका उपयोग बिक्री टीमें तब करती हैं जब एंटरप्राइज़ खरीदार पूछते हैं कि कोई AI टूल निष्पक्ष, तटस्थ, या सटीक है या नहीं। FTC को इस बात की परवाह करने के लिए LinkedIn से कोई नया विशेषण नहीं चाहिए कि किसी उपभोक्ता को गुमराह किया गया था या नहीं।

पुराना आधार अब भी धोखा और अनुचितता है

Holland & Knight के विश्लेषण के अनुसार, FTC के पास भ्रामक और अनुचित व्यावसायिक प्रथाओं पर अधिकार क्षेत्र है, साथ ही उपभोक्ता संरक्षण और प्रतिस्पर्धा को नियंत्रित करने वाले कानूनों और विनियमों पर भी। फर्म एजेंसी की स्थिति को इस तरह भी बताती है कि परिचित धोखे और अनुचितता के सिद्धांत आधुनिक AI उत्पादों पर लागू होते हैं। यही वह हिस्सा है जिसे कई AI टीमें कम पढ़ती हैं: मॉडल की नवीनता नियामक के लिए मार्केटिंग दावे को नया नहीं बना देती।

व्यवहार में, इसका अर्थ है कि पक्षपात से बचाव के उपाय को उत्पाद प्रदर्शन के किसी भी अन्य दावे की तरह माना जाना चाहिए। यदि कंपनी कहती है कि सिस्टम पक्षपात घटाता है, सटीकता सुधारता है, संतुलित उत्तर देता है, या हानिकारक आउटपुट से बचता है, तो किसी के पास यह दिखाने की क्षमता होनी चाहिए कि क्या परीक्षण किया गया, किस बेंचमार्क के विरुद्ध, और किन सीमाओं के साथ। यदि जवाब एक स्लाइड है जिसमें कहा गया है कि कंपनी को इसकी गहरी परवाह है, तो बधाई हो, आपने ऐसा अनुपालन दस्तावेज़ खोज लिया है जिसमें कोई वास्तविक पोषण नहीं है। FTC की पुरानी उपभोक्ता संरक्षण मशीनरी नाश्ते में इसे आसानी से खा सकती है।

पक्षपात नियंत्रणों को प्रमाण क्यों चाहिए

K&L Gates ने FTC के पहले के संकेत को सोमवार, 19 अप्रैल 2021 के एक ब्लॉग पोस्ट से जोड़ा, जिसमें कंपनियों को चेतावनी दी गई थी कि वे सुनिश्चित करें कि उनका AI नस्लीय या लैंगिक पक्षपात को प्रतिबिंबित न करे। फर्म ने कहा कि उस पोस्ट ने संकेत दिया था कि ऐसा करने में विफलता के परिणामस्वरूप धोखा, भेदभाव, और FTC कानून प्रवर्तन कार्रवाई हो सकती है। उस पहले की चेतावनी ने कंपनियों को पक्षपात कम करने की दिशा में धकेला। Reuters द्वारा रिपोर्ट की गई नई चेतावनी समस्या का दूसरा आधा भाग जोड़ती है: जोखिम कम करने की प्रक्रिया स्वयं जोखिम पैदा कर सकती है, यदि वह अस्पष्ट हो, बढ़ा-चढ़ाकर दावा की गई हो, या खराब तरीके से परीक्षण की गई हो।

अनुपालन का पाठ यह नहीं है कि सुरक्षा उपाय बनाना बंद कर दिया जाए। पाठ यह है कि सुरक्षा उपायों को जादुई शब्द समझना बंद किया जाए। पक्षपात घटाने वाले नियंत्रण के पास एक छोटी आंतरिक फ़ाइल होनी चाहिए: यह क्या बदलता है, डिज़ाइन लक्ष्य को किसने मंज़ूरी दी, इसका परीक्षण कैसे हुआ, कौन-से विफलता मोड अब भी बचे हैं, और उपयोगकर्ताओं को क्या बताया जाता है। विक्रेता अनुबंधों में तुलनीय दस्तावेज़ीकरण की आवश्यकता होनी चाहिए, क्योंकि चैटबॉट लागू करने वाला ग्राहक उत्पादन में यह जानकर खुश नहीं होगा कि आपूर्तिकर्ता का निष्पक्षता फीचर परीक्षण किए गए कार्य से ज़्यादा एक आकांक्षा था।

अब निर्माताओं के लिए क्या बदलता है

Reuters FTC की कार्रवाई को इस प्रस्तावित नीति का हिस्सा बताता है कि एजेंसी AI पर अपने अधिकार का उपयोग कैसे करेगी, जबकि Forth संबंधित FTC आइटम को AI सटीकता पर सार्वजनिक टिप्पणी के रूप में पहचानता है। निर्माताओं के लिए उपयोगी प्रतिक्रिया घबराहट नहीं है। यह कानूनी रीढ़ के साथ व्यवस्था सुधारना है: उत्पाद, सहायता केंद्र, बिक्री सामग्री, और खरीद प्रक्रिया के उत्तरों में किए गए हर निष्पक्षता, पक्षपात, तटस्थता, और सटीकता दावे का नक्शा बनाइए। फिर हर दावे को प्रमाण से मिलाइए, या दावे को तब तक संशोधित कीजिए जब तक वह प्रमाण के अनुरूप न हो जाए।

इंजीनियरिंग नियंत्रण और उपभोक्ता प्रतिनिधित्व के बीच की रेखा बहुत पतली हो जाती है, जैसे ही उपयोगकर्ता उसे देख लेते हैं या खरीदार उस पर भरोसा करते हैं। एक छिपी हुई सुरक्षा परत को भी उत्पाद परीक्षण चाहिए, यदि वह ऐसे तरीकों से आउटपुट बदलती है जो सटीकता को प्रभावित करते हैं। एक दिखाई देने वाले टॉगल या लेबल को ऐसी जानकारी चाहिए जिसे सामान्य उपयोगकर्ता समझ सके। बिक्री का वादा इमारत से बाहर जाने से पहले पुष्ट प्रमाण चाहता है, और आमतौर पर वही क्षण होता है जब वकील "हम नियामकों से स्पष्टता का स्वागत करते हैं" को कैलेंडर आमंत्रण में अनुवाद करना शुरू करते हैं।

आगे देखने वाली बात यह है कि क्या FTC की प्रस्तावित नीति अंतिम रूप लेती है और एजेंसी किसी बाद के वक्तव्य या प्रवर्तन कार्रवाई में सटीकता, पक्षपात, और वैचारिक उद्देश्यों का वर्णन कैसे करती है। तब तक, AI टीमें इंतज़ार किए बिना उपयोगी काम कर सकती हैं: सुरक्षा उपाय को समझाने योग्य बनाइए, उसे उत्पाद फीचर की तरह परीक्षण कीजिए, और उसे उतनी ही विनम्रता से वर्णित कीजिए जितना प्रमाण समर्थन कर सकता है। अच्छी नीयत सुखद होती है। पुष्ट प्रमाण ही खोजबीन में टिकता है।